Sebuah kelompok peretasan yang disponsori negara Korea Utara menggunakan chatgpt untuk membuat deepfake dari dokumen ID militer untuk menyerang target di Korea Selatan, menurut para peneliti cybersecurity.
Penyerang menggunakan alat intelijen buatan untuk membuat rancangan palsu kartu identifikasi militer Korea Selatan untuk membuat citra yang tampak realistis yang dimaksudkan untuk melakukan upaya phishing tampak lebih kredibel, menurut penelitian yang diterbitkan pada hari Minggu oleh para jenderal, sebuah perusahaan cybersecurity Korea Selatan. Alih -alih memasukkan gambar nyata, email yang ditautkan ke malware yang mampu mengekstraksi data dari perangkat penerima, menurut Genians.
Kelompok yang bertanggung jawab atas serangan itu, yang dijuluki Kimsuky, adalah dugaan unit cyber-spionage yang disponsori Korea Utara yang sebelumnya terkait dengan upaya mata-mata lainnya terhadap target Korea Selatan. Departemen Keamanan Dalam Negeri AS mengatakan Kimsuky “kemungkinan besar ditugaskan oleh rezim Korea Utara dengan misi pengumpulan intelijen global,” menurut penasihat 2020.
Temuan oleh Genians pada bulan Juli adalah contoh terbaru dari dugaan operator Korea Utara yang mengerahkan AI sebagai bagian dari pekerjaan pengumpulan intelijen mereka. Anthropic mengatakan pada bulan Agustus mereka menemukan peretas Korea Utara menggunakan alat kode Claude untuk dipekerjakan dan bekerja dari jarak jauh untuk perusahaan teknologi Fortune 500 AS. Dalam hal ini, Claude membantu mereka membangun identitas palsu yang rumit, melewati penilaian pengkodean dan memberikan pekerjaan teknis yang sebenarnya pernah disewa.
Openai mengatakan pada bulan Februari pihaknya telah melarang dugaan akun Korea Utara yang telah menggunakan layanan ini untuk membuat resume penipuan, surat lamaran dan pos media sosial untuk mencoba merekrut orang untuk membantu skema mereka.
Tren ini menunjukkan bahwa penyerang dapat memanfaatkan AI yang muncul selama proses peretasan, termasuk perencanaan skenario serangan, pengembangan malware, membangun alat mereka dan menyamar sebagai perekrut kerja, kata Mun Chong-hyun, direktur jenderal.
Target phishing dalam cybercrime terbaru ini termasuk jurnalis dan peneliti Korea Selatan dan aktivis hak asasi manusia yang berfokus pada Korea Utara. Itu juga dikirim dari alamat email yang diakhiri dengan .mil.kr, peniruan alamat militer Korea Selatan.
Tepatnya berapa banyak korban yang dilanggar tidak segera jelas.
Peneliti Genians bereksperimen dengan chatgpt saat menyelidiki dokumen identifikasi palsu. Karena reproduksi ID pemerintah adalah ilegal di Korea Selatan, chatgpt awalnya mengembalikan penolakan ketika diminta untuk membuat ID. Tetapi mengubah prompt memungkinkan mereka untuk melewati batasan.
Pejabat Amerika menuduh bahwa Korea Utara terlibat dalam upaya lama untuk menggunakan serangan cyber, pencurian cryptocurrency dan kontraktor TI untuk mengumpulkan informasi atas nama pemerintah di Pyongyang. Taktik -taktik tersebut juga digunakan untuk menghasilkan dana yang dimaksudkan untuk membantu rezim menumbangkan sanksi internasional dan mengembangkan program senjata nuklirnya, menurut pemerintah AS.
