Jika Anda menonton peluncuran agen chatgpt baru Openai, atau Anda adalah pengguna plus, pro atau tim yang memiliki kesempatan untuk mencoba ‘mode agen’ baru dalam daftar drop-down Tools, sulit untuk tidak terkesan dengan inovasi AI terbaru.
Agen ChatGPT dirancang untuk melakukan tugas-tugas dunia nyata yang kompleks untuk Anda. Pikirkan hal -hal seperti merencanakan pernikahan, memesan mobil Anda untuk mendapatkan layanan, membuat aplikasi untuk menyelesaikan masalah, atau merencanakan dan memesan liburan.
Sama seperti agen Openai sebelumnya yang disebut operator, agen chatgpt bertindak seperti orang sungguhan yang bekerja untuk Anda, melakukan tugas seolah -olah mereka memiliki komputer sendiri. Bahkan, Anda dapat menonton apa yang terjadi di ‘desktop’ karena melakukan tugas -tugas ini – Anda dapat melihatnya menyeret Windows, dan memasukkan data ke dalam formulir di situs web, misalnya.
Seluruh konsep adalah agen terpadu yang dapat menangani kerja keras, membuat keputusan berdasarkan informasi tentang situs web mana yang akan digunakan, dan menavigasi web secara mandiri. Agen chatgpt dapat melakukan semuanya, dan Anda bahkan dapat menontonnya berhasil jika Anda mau, tetapi ada tangkapan …
Dunia Ancaman Baru
Ini adalah kemampuan kuat dari agen chatgpt yang membuka Anda hingga dunia baru ancaman keamanan:
“Seperti yang kita ketahui, internet bisa menjadi tempat yang menakutkan,” kata Casey Chu di Presentasi Peluncuran Agen ChatGPT“Ada semua jenis peretas yang mencoba mencuri informasi, penipuan, upaya phishing, dan agen Anda tidak kebal terhadap semua hal ini.”
Nah, itu mengkhawatirkan. Dia melanjutkan:
“Satu hal khusus yang kami khawatirkan adalah serangan baru yang disebut ‘suntikan cepat’. Agen mungkin menemukan situs web jahat yang memintanya untuk memasukkan informasi kartu kredit Anda di sini karena itu akan membantu Anda dengan tugas Anda, dan agen, yang dilatih untuk membantu, mungkin memutuskan itu ide yang bagus.”
Sepertinya kita semua harus khawatir tidak hanya tentang diri kita menjadi phishing di masa depan, tetapi kita juga harus khawatir tentang AIS kita juga menjadi phishing!
“Kami telah melakukan banyak pekerjaan untuk mencoba memastikan bahwa ini tidak terjadi”, lanjutan Chu, “Kami melatih model kami untuk mengabaikan instruksi yang mencurigakan di situs web yang mencurigakan. Kami juga memiliki lapisan monitor yang mengintip ke atas bahu agen dan menontonnya seperti yang terjadi dan menghentikan lintasan apa pun yang terlihat mencurigakan.”
Pikiran pertama saya ketika mendengar ini adalah bahwa saya tidak akan pernah memberikan informasi kartu kredit kepada agen chatgpt saya, tetapi saya pasti tidak akan melakukannya sekarang. Maksud saya, satu -satunya alasan mengapa kartu kredit saya tinggal bersama Amazon dan Apple adalah bahwa mereka tampak seperti tempat yang aman bagi saya, jadi kenyamanannya sepadan, tetapi semua yang diperlukan akan menjadi petunjuk bahwa mereka tidak aman dan saya, mungkin bersama dengan jutaan orang lain, tidak akan menyimpan informasi kartu kredit saya dengan mereka.
Kepercayaan adalah segalanya
Dengan keamanan online, kepercayaan adalah segalanya. Gagasan bahwa seorang agen AI, tidak peduli berapa banyak pemeriksaan latar belakang yang dilakukannya, secara mandiri memutuskan apa yang saya habiskan uang saya sudah memenuhi saya dengan ketakutan. Dan ketika Anda menambahkan faktor bahwa mungkin ada situs jahat di luar sana melakukan ‘suntikan cepat’ untuk mencoba dan menipu AI saya agar memberikan informasi, itu cukup membuat saya takut untuk tidak ingin mempercayainya.
Perlu dicatat bahwa ada ‘mode pengambilalihan’ dengan agen chatgpt di mana Anda memasukkan informasi sensitif langsung ke browser sendiri, alih -alih menyerahkannya kepada agen chatgpt untuk mengontrol. Itu akan tampak seperti cara yang lebih baik untuk menggunakan agen bagi saya. Saya tidak berpikir saya cukup di panggung di mana saya siap untuk memberi AI saya kekuatan untuk menghabiskan uang saya sesuai keinginannya, dan saya yakin saya bukan satu -satunya.
Openai tampaknya cukup dimuka tentang risiko yang terlibat dalam menggunakan agen chatgpt dengan informasi sensitif, dan seperti yang dikatakan CEO Sam Altman dalam presentasi, ini adalah teknologi yang muncul, dan kami bahkan belum tahu apa yang belum akan terjadi. Kita hanya harus melihat apa yang terjadi ketika orang mulai menggunakannya.
Tapi itulah yang paling membuat saya khawatir – apa yang terjadi ketika orang mulai menggunakan AI untuk mengalahkan AI? Saya yakin para peretas tidak akan menghindar dari menggunakan AI untuk menghindari protokol keamanan kita, dan AI mungkin akan datang dengan sejumlah serangan yang bahkan belum kita pikirkan.
