Melawan Misinformasi Politik: Upaya Anthropic dan OpenAI
Pemilihan presiden AS 2024 semakin dekat, dan potensi misinformasi berlimpah. Sebagai tanggapan, Anthropic, sebuah startup AI terkemuka, sedang menguji teknologi baru bernama “Prompt Shield” untuk melindungi chatbot GenAI-nya, Claude, dari menyebarkan informasi politik yang tidak akurat.
Prompt Shield bertindak sebagai penjaga yang waspada, mendeteksi ketika pengguna Claude di AS mengajukan pertanyaan politik.
Ketika dipicu, ia menampilkan pop-up yang menawarkan pengalihan ke sumber “otoritatif” seperti TurboVote, sumber nonpartisan yang dikemas dengan informasi pemungutan suara terkini.
Inisiatif ini berasal dari keterbatasan Claude dalam menangani data politik yang dinamis. AI tidak sering dilatih pada spesifikasi pemilihan, membuatnya rentan terhadap “halusinasi,” atau membuat informasi. Anthropic mengakui hal ini dan memprioritaskan panduan yang akurat dengan Prompt Shield.
Perusahaan ini menekankan pengembangan AI yang bertanggung jawab. Mereka secara aktif terlibat dengan pembuat kebijakan, LSM, dan pakar pemilu untuk menyempurnakan Prompt Shield, memastikan efektivitas dan kemudahan penggunaannya.
Meskipun saat ini dalam tahap pengujian terbatas, mereka berencana untuk memperluas jangkauannya berdasarkan pemantauan dan evaluasi yang berkelanjutan.
Upaya Proaktif Melawan Campur Tangan Pemilu
Anthropic bergabung dengan pengembang chatbot GenAI lainnya seperti OpenAI dalam secara proaktif memerangi campur tangan pemilu.
OpenAI melarang penggunaan chatbot ChatGPT-nya untuk tujuan jahat seperti meniru pejabat atau menyebarkan misinformasi pemungutan suara. Selain itu, mereka mengarahkan pengguna ke CanIVote.org nonpartisan untuk logistik pemungutan suara.
Meskipun mendapat dukungan bipartisan, Kongres AS belum memberlakukan undang-undang yang mengatur peran industri AI dalam politik. Namun, lebih dari sepertiga negara bagian telah mengusulkan undang-undang yang menargetkan deepfake dalam kampanye politik, yang menyoroti urgensi regulasi diri oleh platform.
Menyadari tekanan ini, platform seperti Google dan Meta mengambil tindakan. Google mewajibkan pengungkapan yang menonjol untuk konten buatan AI yang bermuatan politik dalam iklan, sementara Meta melarang konten tersebut sama sekali di platform periklanannya.
Platform AI seperti Anthropic dan OpenAI berkomitmen untuk pengembangan AI yang bertanggung jawab. Salah satu upayanya adalah Prompt Shield, yang membantu pemilih membuat prompt yang lebih baik untuk model AI.
Prompt Shield memerangi misinformasi dan memberdayakan pemilih, sehingga demokrasi menjadi lebih sehat dan inklusif.
Baca juga: Amazon AI: Solusi Cerdas untuk Menemukan Pakaian Impian Anda