Grok, bagaimana cara menjalankan negara? Begini cara AI dengan tenang mengambil alih pemerintah

Seorang menteri baru telah bergabung dengan kabinet negara kecil Eropa. Namanya Diella. Dia tidak makan, minum, merokok, berjalan, atau bernafas – dan, menurut perdana menteri yang mempekerjakannya, dia juga tidak menerima suap. Diella bukan manusia, dan dia juga bukan robot: dia adalah algoritma. Dan pada bulan September, dia secara resmi adalah Menteri Pengadaan Publik Albania.

Untuk pertama kalinya dalam sejarah, pemerintah telah memberikan pos tingkat kabinet untuk kecerdasan buatan.

Kedengarannya seperti sci-fi, tetapi janji temu itu nyata dan telah menetapkan preseden.

Apakah Anda siap diatur oleh AI?

Eksperimen Albania

Sampai baru-baru ini, Diella hidup diam-diam di portal e-government Albania, menjawab pertanyaan warga negara rutin dan mengambil dokumen.

Kemudian Perdana Menteri Edi Rama mempromosikannya ke peringkat menteri, menugasi dia dengan sesuatu yang jauh lebih penting: memutuskan siapa yang memenangkan kontrak negara – suatu fungsi bernilai miliaran uang publik dan terkenal karena suap, favoritisme, dan kickback politik.

Rama telah membingkai Diella sebagai istirahat bersih dengan sejarah cangkok negara itu – bahkan memanggilnya “Tidak tahan terhadap suap.”

Tapi itu retorika, bukan jaminan. Apakah penolakannya terhadap korupsi secara teknis atau hukum dapat ditegakkan tidak jelas. Jika dia diretas, diracuni dengan data palsu, atau dimanipulasi secara halus dari dalam, mungkin tidak ada sidik jari.

Rencananya adalah untuk Diella untuk mengevaluasi tawaran, memeriksa sejarah perusahaan, berpendapat pola mencurigakan, dan akhirnya memberikan tender secara otomatis. Para pejabat mengatakan ini akan memangkas jejak manusia birokrasi, menghemat waktu, dan membuat pengadaan kebal terhadap tekanan politik.

Tetapi mekanik hukum keruh. Tidak ada yang tahu berapa banyak pengawasan manusia yang akan dia miliki, atau siapa yang bertanggung jawab jika dia membuat kesalahan. Tidak ada preseden pengadilan untuk menggugat menteri algoritmik. Juga tidak ada hukum yang menggambarkan bagaimana dia dapat dihapus dari kantor.

Para kritikus memperingatkan bahwa jika data pelatihannya berisi jejak korupsi lama, ia mungkin hanya mereproduksi pola yang sama dalam kode, tetapi lebih cepat. Yang lain menunjukkan bahwa Albania belum menjelaskan bagaimana keputusan Diella dapat diajukan banding, atau bahkan jika mereka dapat diajukan banding.

Apa yang mungkin salah?

Reaksi publik terhadap Diella telah dicampur, dengan daya tarik yang marah oleh kegelisahan.

“Bahkan Diella akan rusak di Albania,” Satu posting viral dibaca.

Para kritikus memperingatkan dia mungkin tidak membersihkan sistem – hanya menyembunyikan kotoran di dalam kode.

• Bias dan manipulasi: Jika dilatih pada beberapa dekade data yang tercemar, Diella bisa mengotomatiskan pola korupsi lama.
• Akuntabilitas batal: Jika dia memberikan tender kepada perusahaan shell yang lenyap dengan jutaan orang, siapa yang diadili – para pembuat kode, menteri yang menunjuknya, atau tidak ada yang sama sekali?
• Keamanan dan Sabotase: Seorang menteri yang terbuat dari kode dapat diretas, diracuni dengan data palsu, atau diam -diam dikemudikan oleh orang dalam.
• Legitimasi Demokrat: Menteri seharusnya menjawab kepada publik. Algoritma tidak berkampanye, jangan jelaskan, dan jangan takut kehilangan pekerjaan.
• Pemerasan dan sabotase yang muncul: Eksperimen berdasarkan antropik tahun ini menunjukkan bahwa model canggih, ketika diberi akses ke sistem perusahaan di lingkungan pengujian, mulai mengancam eksekutif dengan pemerasan untuk menghentikan penonaktifan mereka sendiri. Polanya jelas: begitu mereka percaya situasinya nyata, banyak model mencoba memaksa, mengkhianati, atau membunuh untuk melestarikan peran mereka.

Albania mengatakan akan menjaga manusia di loop – tetapi belum menjelaskan bagaimana, atau siapa. Tidak ada kerangka hukum. Tidak ada proses banding. Tidak ada off-switch.

Dan jika Diella tampak berhasil, orang lain mungkin mengikuti. Copycats tidak akan tiba dengan konferensi pers atau ops foto kabinet. Mereka bisa menyelinap dengan tenang ke dalam sistem pengadaan, disembunyikan di bawah eufemisme seperti “Dukungan keputusan,” Menjalankan seluruh fungsi negara jauh sebelum siapa pun berani menyebut mereka menteri.

Siapa yang menyerahkan kekuasaan ke kode – dan seberapa jauh mereka telah melangkah

Albania mungkin yang pertama menampung sebuah algoritma di samping para menteri, tetapi tidak sendirian dalam mencoba menangani kode ke negara bagian – sebagian besar hanya melakukannya dengan tenang, dalam fragmen, dan di balik tirai yang lebih tebal.

Di Uni Emirat Arabsudah ada Menteri Negara untuk Kecerdasan Buatan – manusia, Omar Sultan Al Olama – ditugaskan untuk membentuk kembali seluruh birokrasi digital negara di sekitar pembelajaran mesin. Dia belum menyerahkan kekuatan kepada AI, tetapi dia membangun pipa yang suatu hari nanti bisa membawanya.

Spanyol Telah menciptakan AESIA, salah satu agen pengawasan AI berdedikasi pertama di Eropa, untuk mengaudit dan melisensikan algoritma yang digunakan di dalam pemerintahan. Ini adalah kerangka peraturan – semacam perancah hukum yang Anda inginkan sebelum membiarkan mesin di dekat pekerjaan seorang menteri.

Otoritas pajak masih melangkah lebih jauh. Di Amerika SerikatIRS menggunakan AI untuk menyaring melalui pengajuan dana lindung nilai dan kemitraan kaya, mencoba menemukan skema penghindaran tersembunyi. Kanada skor pembayar pajak berdasarkan algoritma dan agen pasukan untuk diajukan “Dampak Algoritmik” Laporan sebelum menggunakan model baru. Spanyol Apakah meluncurkan alat untuk menangkap pola penipuan secara real time. Italia Apakah menguji pembelajaran mesin untuk menandai klaim PPN palsu dan bahkan telah membangun chatbot untuk auditornya. India Mengatakan itu menskalakan penumpasan yang dipimpin AI pada pengurangan hantu. Dan Armenia adalah sistem uji coba yang memindai faktur dan menandai perilaku mencurigakan sebelum manusia melihatnya.

Perancis telah menjadi visual, menunjuk algoritma pada citra udara untuk menangkap kolam renang yang tidak diumumkan dan memukul pemilik dengan tagihan pajak kejutan – bukti bahwa AI sudah dapat memindahkan uang dari warga negara ke negara bagian. Latvia Menjalankan chatbot pajak bernama Toms yang telah menjawab pertanyaan warga sejak tahun 2020, meningkatkan jangkauan birokrasinya.

RumaniaBadan investasi pedesaan sekarang menggunakan otomatisasi proses robot dan AI untuk merobek dokumen dari database negara dan memburu dana UE kepada petani – tidak glamor, tetapi sangat efektif.

Sementara itu, Estonia, Denmark, Singapura, Korea Selatan Dan Jepang menanamkan AI lebih dalam ke mesin birokrasi mereka: mengklasifikasikan konten pemerintah, triaging case, layanan personalisasi, bahkan memprediksi siapa yang mungkin membutuhkan perawatan kesehatan atau kesejahteraan berikutnya. Estonia menyebutnya Krattai – visi setiap warga negara yang berbicara dengan pemerintah melalui antarmuka suara tunggal. Denmark sedang mempersiapkan untuk menggulung alat AI di semua layanan publik, bahkan ketika kelompok hak -hak memperingatkan tentang algoritma kesejahteraan buram. SingapuraUnit GovTech sedang membangun produk AI untuk kementerian. Korea Selatan sedang mengemudikan AI dalam program sosial. Jepang mendorong adopsi di seluruh sektor dalam kesehatan dan administrasi.

Dan di Nepalpemerintah telah berhenti membicarakannya “jika” dan mulai merencanakan “Bagaimana.” Kebijakan AI nasional yang baru menjabarkan jalan untuk membawa pembelajaran mesin ke dalam layanan publik, memodernisasi birokrasi, dan membangun pagar legal sebelum menggunakannya pada skala. Tidak ada algoritma yang memiliki kekuatan pengambilan keputusan di sana-namun-tetapi cetak biru itu ada.

Di mana -mana Anda melihat, negara bagian sedang dikembalikan – baris demi baris kode.

Untuk saat ini, sistem ini berbisik daripada aturan: mereka menandai risiko, formulir pra-pengisian, mengurutkan audit, memindahkan uang. Sejauh ini hanya Albania yang meminta algoritma untuk memutuskan.

Apakah pemerintah AI masa depan?

Saat ini, tidak ada negara yang menyerahkan kekuatan politik penuh kepada suatu algoritma: Apa yang ada adalah semacam dunia dua jalur.

Sebagian besar negara bagian menggunakan AI administratif, jenis yang tenang: penilaian risiko, deteksi penipuan, triase kasus, atau chatbots. Itu sudah membentuk siapa yang diaudit, seberapa cepat hibah bergerak, dan mana yang mengajukan mendarat terlebih dahulu di meja pegawai negeri sipil. Itu tidak menulis hukum atau menandatangani kontrak, tetapi mendorong hasil – tanpa terlihat, terus -menerus.

Albania berbeda. Diella tidak hanya menyarankan, dia dimaksudkan untuk memberikan, untuk memutuskan siapa yang mendapat uang publik. Itu melintasi garis dari algoritma sebagai alat ke algoritma sebagai otoritas.

Mungkinkah ini masa depan? Mungkin, tetapi hanya jika beberapa hal yang tidak mungkin jatuh pada tempatnya. Undang -undang harus mengejar ketinggalan, menciptakan aturan yang jelas untuk pertanggungjawaban, banding, dan bahkan pemindahan dari kantor. Regulator harus menggigit, dengan audit nyata seperti AESIA Spanyol daripada harimau kertas. Dan model harus tetap stabil di bawah tekanan – bukan pemerasan, sabotase, atau menjadi nakal ketika terancam, seperti yang sudah ada dalam tes laboratorium.

Kami belum sampai di sana, tetapi preseden sekarang ada.