loading...
Teknologi AI Maven AS. FOTO/ VIET
BEIJING - Serangan rudal terhadap sebuah sekolah di Iran, yang menewaskan 175 warga sipil, telah mendorong dunia untuk mempertanyakan risiko penggunaan AI untuk tujuan militer.
Pada tanggal 28 Februari, sebuah rudal Tomahawk yang dipandu AI menghancurkan sekolah dasar Shajareh Tayyebeh di Minab, Iran selatan. Setidaknya 175 orang tewas, lebih dari 100 di antaranya anak-anak di bawah usia 12 tahun, menurut data dari PBB dan Iran.
Investigasi awal oleh Pentagon telah menetapkan bahwa ini adalah kesalahan penargetan AS. Sekolah tersebut sebelumnya terletak di lahan pangkalan angkatan laut Korps Garda Revolusi Iran (IRGC), tetapi tembok pemisah didirikan antara tahun 2013 dan 2016, memisahkan sekolah dari pangkalan tersebut.
Citra satelit dari Amnesty International mengkonfirmasi hal ini. Sekolah tersebut telah beroperasi selama bertahun-tahun, memiliki situs web dan akun media sosial sendiri.
Kisah tragis ini mengungkap sisi gelap AI dalam penggunaan data. Sistem Cerdas Maven, platform penargetan yang dibangun oleh Palantir berdasarkan kontrak senilai $1,3 miliar dengan Pentagon, digunakan dalam operasi tersebut.
Maven mengintegrasikan citra satelit, data radar, dan sinyal intelijen, menggunakan model AI Claude dari Anthropic untuk mengklasifikasikan target dan menghasilkan paket serangan udara secara real-time. Dalam 24 jam pertama kampanye Iran, sistem ini menghasilkan ratusan koordinat serangan.
Namun, beberapa mantan pejabat militer AS mengatakan kepada Semafor bahwa kesalahan manusia bertanggung jawab atas serangan sekolah tersebut. Alasannya adalah data yang dikelola manusia sudah usang dan tidak diperbarui tepat waktu ketika sebuah sekolah menggantikan pangkalan militer di lokasi yang sama.
Dmytro Matviyuk, seorang ahli drone yang telah bekerja dengan sistem otomatis serupa, percaya bahwa masalahnya bukanlah pada AI itu sendiri.
