Openai mengatur ulang tim peneliti di balik kepribadian Chatgpt

Openai sedang mengatur ulang tim Version Habits -nya, sekelompok peneliti kecil namun berpengaruh yang membentuk bagaimana design AI perusahaan berinteraksi dengan orang -orang, TechCrunch telah belajar.

Dalam memorandum Agustus kepada staf yang dilihat oleh TechCrunch, primary riset policeman Openai Mark Chen mengatakan tim perilaku model-yang terdiri dari sekitar 14 peneliti-akan bergabung dengan tim pasca pelatihan, kelompok riset yang lebih besar yang bertanggung jawab untuk meningkatkan design AI perusahaan setelah pra-pelatihan awal mereka.

Sebagai bagian dari perubahan, tim Version Actions sekarang akan melaporkan ke pemimpin pelatihan pasca Openai Max Schwarzer. Seorang juru bicara OpenAI mengkonfirmasi perubahan ini pada TechCrunch.

Pemimpin pendiri tim design perilaku, Joanne Jang, juga pindah untuk memulai proyek baru di perusahaan. Dalam sebuah wawancara dengan TechCrunch, Jang mengatakan dia sedang membangun tim peneliti baru bernama Oai Labs, yang akan bertanggung jawab untuk “menciptakan dan membuat prototipe antarmuka baru untuk bagaimana orang berkolaborasi dengan AI.”

Tim Design Actions telah menjadi salah satu kelompok penelitian utama Openai, yang bertanggung jawab untuk membentuk kepribadian version AI perusahaan dan untuk mengurangi sycophancy – yang terjadi ketika version AI hanya setuju dengan dan memperkuat keyakinan pengguna, bahkan yang tidak sehat, daripada menawarkan respons seimbang. Tim juga telah bekerja untuk menavigasi prejudice politik dalam tanggapan model, dan membantu Openai menentukan sikapnya Kesadaran ai

Dalam memorandum itu kepada staf, Chen mengatakan bahwa sekarang adalah waktu untuk membawa pekerjaan tim perilaku model Openai lebih dekat dengan pengembangan model inti. Dengan melakukan itu, perusahaan menandakan bahwa “kepribadian” AI -nya sekarang dianggap sebagai faktor penting dalam bagaimana teknologi berkembang.

Dalam beberapa bulan terakhir, Openai telah menghadapi peningkatan pengawasan atas perilaku model AI -nya. Pengguna sangat keberatan dengan perubahan kepribadian yang dilakukan pada GPT- 5, yang menurut perusahaan menunjukkan tingkat penjilat yang lebih rendah tetapi tampak lebih dingin bagi beberapa pengguna. Hal ini menyebabkan OpenAi memulihkan akses ke beberapa model warisannya, seperti GPT- 4 O, dan untuk merilis pembaruan untuk membuat tanggapan GPT- 5 yang lebih baru terasa “lebih hangat dan lebih ramah” tanpa meningkatkan jarum sejang.

Openai, dan semua pengembang design AI, harus berjalan dengan baik untuk membuat obrolan AI mereka ramah untuk diajak bicara, tetapi tidak sycophantic. Pada bulan Agustus, orang tua dari anak laki-laki berusia 16 tahun menggugat openai atas dugaan peran Chatgpt dalam bunuh diri putra mereka. Bocah itu, Adam Raine, menceritakan beberapa pemikiran bunuh diri dan rencananya untuk chatgpt (khususnya versi yang ditenagai oleh GPT- 4 O), menurut dokumen pengadilan, dalam bulan-bulan menjelang kematiannya. Gugatan itu menuduh bahwa GPT- 4 O gagal mendorong kembali ide-ide bunuh diri. Khususnya, tim Design Actions tidak ada ketika GPT- 4 O dikembangkan.

Jang mengumumkan di a Uploading di x Minggu lalu dia meninggalkan tim untuk “memulai sesuatu yang baru di Openai.” Mantan kepala perilaku design telah dengan OpenAi selama hampir empat tahun, dan sebelumnya bekerja pada proyek-proyek seperti Dall-E 2, alat pembuatan gambar awal Openai.

Jang mengatakan kepada TechCrunch bahwa dia akan melayani sebagai manajer umum OAI Labs, yang akan melapor ke Chen untuk saat ini. Namun, ini awal, dan belum jelas apa antarmuka unique itu, katanya.

“Saya sangat senang mengeksplorasi pola yang menggerakkan kita melampaui paradigma obrolan, yang saat ini lebih dikaitkan dengan persahabatan, atau bahkan agen, di mana ada penekanan pada otonomi,” kata Jang. “Saya sudah berpikir (sistem AI) sebagai instrumen untuk berpikir, membuat, bermain, melakukan, belajar, dan menghubungkan.”

Ketika ditanya apakah Oai Labs akan berkolaborasi dalam antarmuka unique ini dengan mantan Kepala Desain Apple Jony Ive – siapa sekarang bekerja Dengan Openai pada keluarga perangkat perangkat keras AI – Jang mengatakan dia terbuka untuk banyak ide. Namun, Jang mengatakan dia kemungkinan akan mulai dengan bidang penelitian yang lebih dia kenal.