Anthropic menolak tawaran terbaru Pentagon untuk mengubah kontrak mereka, dengan mengatakan bahwa perubahan tersebut tidak memuaskan kekhawatiran perusahaan bahwa AI dapat digunakan untuk pengawasan massal atau senjata yang sepenuhnya otonom.
Pentagon dan Anthropic berselisih mengenai pembatasan yang diterapkan perusahaan pada penggunaan Claude, sistem AI pertama yang digunakan dalam jaringan rahasia militer.
Menteri Pertahanan Pete Hegseth mengatakan kepada CEO Anthropic Dario Amodei pada hari Selasa bahwa jika Anthropic tidak mengizinkan model AI-nya digunakan “untuk semua tujuan yang sah,” Pentagon akan membatalkan kontrak Anthropic senilai $200 juta. Selain pembatalan kontrak, Anthropic akan dianggap sebagai “risiko rantai pasokan,” sebuah klasifikasi yang biasanya diperuntukkan bagi perusahaan yang terhubung dengan musuh asing, kata pejabat Pentagon.
Anthropic mengatakan dalam sebuah pernyataan bahwa bahasa baru Pentagon dirancang sebagai sebuah kompromi tetapi “dipasangkan dengan bahasa legal yang memungkinkan perlindungan tersebut diabaikan sesuka hati.”
Dalam postingan blognya yang panjang pada hari Kamis, Amodei menulis: “Saya sangat percaya akan pentingnya penggunaan AI untuk membela Amerika Serikat dan negara demokrasi lainnya, dan untuk mengalahkan musuh otokratis kita.”
Amodei mengatakan Anthropic memahami bahwa Pentagon, “bukan perusahaan swasta, yang membuat keputusan militer.” Namun “dalam beberapa kasus, kami yakin AI dapat melemahkan, bukannya mempertahankan, nilai-nilai demokrasi.” Dia juga mengatakan kasus penggunaan seperti pengawasan massal dan senjata otonom “di luar jangkauan teknologi saat ini yang dapat dilakukan dengan aman dan andal.”
Dua pengecualian Anthropic tidak memperlambat “adopsi dan penggunaan model kami dalam angkatan bersenjata kami hingga saat ini,” tambah Amodei.
Amodei mengatakan “ancaman Pentagon tidak mengubah posisi kami: kami tidak dapat dengan hati nurani menyetujui permintaan mereka.”
Sebagai tanggapan, Emil Michael, Wakil Menteri Riset dan Teknik Pentagon yang ikut serta dalam perundingan tersebut, menulis di X: “Sangat disayangkan bahwa @DarioAmodei adalah seorang pembohong dan memiliki sifat Tuhan yang kompleks. Dia hanya ingin mencoba mengendalikan Militer AS secara pribadi dan tidak keberatan membahayakan keselamatan negara kita. @DeptofWar akan SELALU mematuhi hukum tetapi tidak tunduk pada keinginan perusahaan teknologi nirlaba mana pun.”
Setelah postingan Amodei dipublikasikan, staf Anthropic mulai secara terbuka menyatakan dukungannya terhadap perusahaan mereka.
“Berkali-kali selama tiga tahun masa jabatan saya di Anthropic, saya telah melihat kami berpegang pada nilai-nilai kami dengan cara yang seringkali tidak terlihat dari luar. Ini adalah contoh yang jelas di mana hal itu terlihat,” Trenton Bricken, anggota tim teknis penyelarasan Anthropic, menulis di X.
“(H)sejarah sedang terbentang di hadapan kita, dan kini menjadi jelas bagi semua orang yang ingin melihat mengapa pendirian anthropic merupakan titik krusial dalam garis waktu, dan betapa dahsyatnya dampak kontrafaktual,” tulis Gian Segato, manajer ilmu data di Anthropic.
