Dilema AI di Industri Media: Antara Efisiensi Redaksi dan Ancaman Halusinasi Informasi

Kecerdasan buatan atau Artificial Intelligence (AI) semakin banyak digunakan untuk mencari informasi. Meski begitu, pemeriksa fakta mengingatkan jawaban dari chatbot AI belum tentu selalu benar dan tetap perlu diverifikasi.

Dalam GlobalFact atau forum internasional yang mempertemukan organisasi pemeriksa fakta dan pegiat anti-misinformasi dari berbagai negara, isu tersebut menjadi salah satu pembahasan utama dalam konferensi.

Salah satunya disampaikan Alan Duke, pendiri media pemeriksa fakta Lead Stories. Ia mengemukakan ketika mencoba chatbot AI Llama di komputernya, Duke meminta informasi Maarten Schenk, rekan kerjanya yang juga pendiri Lead Stories.

Mengutip poynter.org, mulanya chatbot tersebut memberikan informasi yang benar dengan menyebut Schenk sebagai seorang pemeriksa fakta. Namun, jawaban kemudian informasi yang disampaikan keliru.

Llama mengklaim Schenk pernah meninggalkan Lead Stories pada 2020 karena tidak setuju dengan praktik cek fakta perusahaan. AI juga menyebut Lead Stories sebagai media yang dikritik karena menyebarkan misinformasi di media sosial.

Menurut Duke, seluruh informasi tersebut tidak benar.

Kasus tersebut menunjukkan bahwa AI masih bisa menghasilkan informasi yang tampak meyakinkan, tetapi sebenarnya tidak memiliki dasar yang benar.

Dalam konferensi tersebut, peserta sepakat bahwa AI membawa banyak manfaat bagi dunia jurnalistik dan pemeriksaan fakta. Teknologi ini mampu mempercepat proses pencarian data, membantu analisis informasi, hingga meningkatkan efisiensi pekerjaan di ruang redaksi.

Namun di sisi lain, AI juga memunculkan tantangan baru karena masih berpotensi menghasilkan informasi yang salah, bias, bahkan menyesatkan.

Direktur Jenderal Arab Reporters for Investigative Journalism, Rawan Damen, mengatakan bahwa perkembangan AI dalam 1,5 tahun terakhir berlangsung sangat cepat. Namun, hingga kini banyak media masih mencari cara terbaik untuk memanfaatkan teknologi tersebut tanpa mengorbankan akurasi informasi.

Selain itu di berbagai sesi diskusi GlobalFact juga membahas dampak AI terhadap penyebaran hoaks, penipuan digital, hingga peluang AI sebagai alat pendukung proses pemeriksaan fakta.

Direktur MediaWise dan AI Innovation Lab Poynter, Alex Mahadevan, menilai AI memiliki potensi besar untuk membantu pemeriksa fakta menjangkau lebih banyak masyarakat dan mempercepat proses klarifikasi informasi.

Namun, menurutnya, semua manfaat tersebut hanya akan terasa jika pengguna dapat mempercayai hasil yang diberikan AI.

Sementara itu, penasihat keamanan siber NordVPN, Adrianus Warmenhoven, menjelaskan bahwa chatbot biasanya membangun kepercayaan pengguna melalui jawaban yang benar atas pertanyaan sederhana.

Setelah itu, pengguna cenderung mempercayai jawaban AI untuk pertanyaan yang lebih rumit. Padahal, menurut Warmenhoven, AI tetap bisa memberikan jawaban yang salah dengan tingkat keyakinan yang tinggi.

"Itulah yang perlu menjadi perhatian kita bersama," ujarnya.

Temuan serupa juga disampaikan Hyrije Mehmeti dari Hibrid.info Kosovo. Timnya membandingkan jawaban ChatGPT, DeepSeek, dan Alice menggunakan pertanyaan yang sama.

Hasil penelitian menunjukkan ChatGPT dan DeepSeek memiliki tingkat akurasi yang lebih baik dibandingkan Alice. Namun, ketiganya tetap ditemukan menghasilkan informasi yang tidak akurat dalam beberapa kasus.

Penelitian itu juga menemukan bahwa lokasi pengguna dapat memengaruhi bahasa, sudut pandang, hingga narasi yang diberikan chatbot AI.

Dalam sesi tanya jawab, Duke bertanya berapa lama lagi AI akan mampu menghasilkan konten palsu yang benar-benar sulit dibedakan dari konten asli.

Warmenhoven menjawab bahwa kondisi tersebut sebenarnya sudah terjadi.

Menurutnya, pelaku penyebaran hoaks atau penipuan tidak membutuhkan hasil AI yang sempurna. Mereka hanya membutuhkan konten yang cukup meyakinkan agar orang lain percaya.

Karena itu, para ahli mengingatkan masyarakat agar tidak langsung mempercayai setiap jawaban dari chatbot AI. Informasi penting sebaiknya tetap diperiksa melalui sumber resmi atau media yang kredibel.