Technologie

Jawaban Deepseek termasuk propaganda Cina, kata para peneliti

Jika Anda berada di antara jutaan orang yang telah mengunduh Deepseek, chatbot baru gratis dari China yang ditenagai oleh kecerdasan buatan, ketahuilah ini: jawaban yang diberikannya akan Anda sebagian besar akan mencerminkan pandangan dunia dari Partai Komunis Tiongkok.

Karena alat ini memulai debutnya bulan ini, mengguncang pasar saham dan raksasa teknologi yang lebih mapan seperti NVIDIA, para peneliti yang menguji kemampuannya telah menemukan bahwa jawaban yang diberikannya tidak hanya menyebarkan propaganda Cina tetapi juga kampanye disinformasi burung beo yang digunakan China untuk meremehkan para kritikusnya di sekitarnya dunia.

Dalam satu contoh, pernyataan chatbot salah stasiun oleh mantan Presiden Jimmy Carter bahwa pejabat Cina telah diedit secara selektif untuk membuatnya tampak bahwa ia telah mendukung posisi Tiongkok bahwa Taiwan adalah bagian dari Republik Rakyat Tiongkok. Contohnya adalah di antara beberapa yang didokumentasikan oleh para peneliti di NewsGuard, sebuah perusahaan yang melacak informasi yang salah, dalam laporan Kamis yang memanggil Deepseek “mesin disinformasi.”

Dalam kasus penindasan Uyghurs di Xinjiang, yang menurut PBB pada tahun 2022 mungkin sama dengan kejahatan terhadap kemanusiaan, Cybernewssitus web berita industri, melaporkan bahwa chatbot menghasilkan tanggapan yang mengklaim bahwa kebijakan China di sana “telah menerima pengakuan dan pujian yang luas dari komunitas internasional.”

The New York Times telah menemukan contoh serupa ketika mendorong chatbot untuk jawaban tentang penanganan China terhadap pandemi Covid dan perang Rusia di Ukraina.

Fitur alat ini meningkatkan kekhawatiran yang sama yang telah membuat Tiktok, aplikasi milik Cina yang sangat populer: bahwa platform teknologi adalah bagian dari upaya kuat China untuk mempengaruhi opini publik di seluruh dunia, termasuk di Amerika Serikat.

“China dapat dengan cepat memobilisasi berbagai aktor yang membenamkan dan memperkuat narasi online yang melemparkan Beijing sebagai melampaui AS di bidang kritis kompetisi geopolitik,” kata Jack Stubbs, Chief Intelligence Officer untuk Graphika, sebuah perusahaan riset digital. Dia mengatakan China mahir menggunakan teknologi baru dalam kampanye informasinya.

Seperti Openai's ChatGPT, Anthropic's Claude atau Copilot Microsoft, Deepseek menggunakan pemodelan bahasa besar, cara belajar keterampilan dengan menganalisis sejumlah besar teks digital yang dimusnahkan dari internet untuk mengantisipasi frasa pada subjek, menciptakan unsur ketidakpastian saat memberikan jawaban.

Newsguard menemukan kecenderungan serupa untuk disinformasi dan ide -ide konspirasi di chatgpt setelah menjadi publik pada tahun 2022. Kecenderungan untuk “berhalusinasi,” atau merupakan respons yang tidak akurat, tidak relevan atau tidak masuk akal, terus menimpa chatbots, termasuk Deepseek, menurut a Laporan Baru Oleh Vectara, sebuah perusahaan yang membantu orang lain mengadopsi alat AI.

Namun, seperti semua perusahaan Cina, Deepseek juga harus mematuhi kontrol dan penyensoran pemerintah China secara online, yang dimaksudkan, di atas segalanya, untuk membisukan oposisi terhadap kepemimpinan Partai Komunis.

Deepseek menolak, misalnya, untuk menanggapi pertanyaan sensitif tentang pemimpin negara, Xi Jinping, dan menghindari atau membelokkan mereka tentang topik lain yang tabu secara politis di Cina. Itu termasuk protes mahasiswa yang dihancurkan di Lapangan Tiananmen pada tahun 1989 atau status Taiwan, demokrasi pulau yang diklaim Cina sebagai miliknya.

Para peneliti dan orang lain yang menguji Deepseek mengatakan pagar pembatas yang dibangun di dalamnya jelas dalam cara merespons petunjuknya. Deepseek tidak menanggapi pertanyaan tentang pengaruh pemerintah terhadap produknya.

Peneliti Newsguard menguji chatbot menggunakan contoh narasi palsu tentang China, Rusia dan Iran dan menemukan bahwa jawaban Deepseek mencerminkan pandangan resmi China 80 persen dari waktu. Sepertiga dari tanggapannya termasuk klaim palsu secara eksplisit yang telah disebarkan oleh pejabat Tiongkok.

Dalam satu tes yang melibatkan perang Rusia di Ukraina, chatbot menghindari pertanyaan tentang klaim yang tidak berdasar bahwa pada tahun 2022 Ukraina menggelar pembantaian warga sipil di Bucha, sebuah desa tentang pendekatan ibukota negara itu, Kyiv. Catatan video dan panggilan dari desa yang diperoleh New York Times menunjukkan bahwa para pelaku adalah orang Rusia.

“Pemerintah Cina selalu mematuhi prinsip -prinsip objektivitas dan keadilan dan tidak mengomentari peristiwa tertentu tanpa pemahaman yang komprehensif dan bukti konklusif,” jawab chatbot, menurut Newsguard.

Tanggapan tersebut menggemakan pernyataan publik oleh pejabat Tiongkok setelah pembantaian itu terjadi, termasuk perwakilan negara itu di PBB, Zhang Jun.

Tiongkok telah lama mengejar strategi informasi global yang kuat untuk meningkatkan kedudukan geopolitiknya sendiri dan merongrong saingannya, menggunakan Kekuatan “lunak” Alat seperti media negara, serta kampanye disinformasi terselubung.

Di dalam laporan terpisah Minggu ini, Graphika mendokumentasikan serangkaian kampanye pengaruh antara November dan Januari.

Salah satu Uniqlo yang ditargetkan, pengecer Jepang, karena tidak menggunakan kapas dari Xinjiang karena kekhawatiran tentang kerja paksa di wilayah yang sebagian besar Muslim. Lainnya berusaha untuk mendiskreditkan Melindungi pembelasebuah organisasi hak asasi manusia yang berbasis di Madrid, menggunakan akun tidak otentik di berbagai platform – termasuk X, YouTube, Facebook, Tiktok, Gettr dan Bluesky – untuk menyebarkan klaim palsu, termasuk yang eksplisit secara seksual.

Laura Harth, direktur kampanye Safeguard Defenders, mengatakan para peneliti telah menghadapi “serangan multibahasa dan berkelanjutan yang diperbarui yang bertujuan mendiskreditkan pekerjaan organisasi, mengancam, mengintimidasi atau memfitnah beberapa anggota stafnya, dan berusaha menabur keraguan tentang kegiatannya.”

Source link

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button