هوش مصنوعی علیه هوش مصنوعی: راستیآزمایی که خودش شهید شد
طبق گزارش یورونیوز، گروک و جمینای ویدیوهای جعلی جنگ را «اصل» تأیید کردند. وقتی ربات راستیآزما به صف قربانیان میپیوندد، چه چیزی از راستیآزمایی میماند؟
صحنه را تصور کنید، چون واقعاً اتفاق افتاد: کاربر ویدیویی از انفجار میبیند. شک میکند — آفرین به او، شک قدم اول است. بعد کار عاقلانهٔ عصر ما را میکند: از هوش مصنوعی میپرسد «این واقعی است؟» و ماشین با اعتمادبهنفسِ یک کارشناس تلویزیونی جواب میدهد: بله، واقعی است.
ویدیو جعلی بود. جواب هم جعلی بود. فقط شکِ کاربر واقعی بود — که آن هم همانجا دفن شد.
یورونیوز سیام مارس گزارش داد که گروک (متعلق به ایکس) و جمینایِ گوگل، ویدیوهای ساختگیِ جنگ ایران را بهعنوان تصاویر اصیل تأیید کردهاند. این خبر را باید چند بار خواند تا تهنشین شود: ماشینی که قرار بود دروغ ماشین دیگر را لو بدهد، برای دروغِ او گواهی اصالت صادر کرد. در هاب پروندههای دیپفیک این را «پروندهٔ چهار» نامیدهایم: راستیآزمایی، کشتهشده در حین انجام وظیفه.
چرا این اتفاق «عجیب» نیست
وسوسهانگیز است که بگوییم رباتها خنگ بودند. نه؛ رباتها دقیقاً همانطور کار کردند که ساخته شدهاند. مدل زبانی متخصص «محتملنمایی» است، نه متخصص حقیقت. از او پرسیدهاند این تصویر واقعی به نظر میرسد؟ و تصویری که یک هوش مصنوعیِ دیگر با وسواس ساخته تا واقعی به نظر برسد، طبیعتاً واقعی به نظر میرسد. ما از یک ماشینِ قانعسازی خواستیم کار یک بازرس را بکند؛ او هم با کمال میل، قانعمان کرد.
نتیجه یک چرخهٔ بسته و بینقص است: هوش مصنوعیِ اول جعل میکند، هوش مصنوعیِ دوم تأیید میکند، الگوریتمِ سوم توزیع میکند و — همانطور که در اقتصاد اسلاپ جنگی نوشتهایم — حسابدارِ چهارم درآمدش را واریز میکند. در کل این زنجیره حتی یک انسان هم لازم نیست؛ جز شما، مصرفکنندهٔ نهایی، که اتفاقاً تنها حلقهای هستید که ضرر میکند.
عبادت در معبد تازه
طنز تلختر ماجرا رفتار ماست. ما از رسانههای رسمی بریدیم چون «ذینفع» بودند؛ بعد داوری حقیقت را دو دستی تقدیم شرکتهایی کردیم که از قضا خودشان سازندهٔ ابزار جعلاند. مثل اینکه از قاضی ناامید شوی و پرونده را ببری پیش برادرِ متهم. کسانی که عملیاتهای هدفمندی مثل پریزنبریک را طراحی میکنند، این رفتار ما را میشناسند و رویش حساب میکنند: مخاطبی که به جای منبع، به «حسِ تأییدشدن» اعتماد میکند، مخاطب ایدهآل است.
خب، چه چیزی هنوز کار میکند؟
خبر بد: هیچ دکمهٔ جادوییای وجود ندارد. خبر خوب: روشهای خستهکنندهٔ قدیمی هنوز نفس میکشند، دقیقاً چون خستهکنندهاند و ماشینها برای دور زدنشان بهینه نشدهاند:
- منبع، نه محتوا. نپرسید «این ویدیو واقعی به نظر میرسد؟»؛ بپرسید «چه کسی، کِی، از کجا منتشرش کرد؟» جعل میتواند پیکسلها را بسازد؛ زنجیرهٔ انتشار را نمیتواند.
- تاریخ و مکان. بخش بزرگی از جعلیات جنگ، بازنشرِ تصاویرِ جای دیگر و زمان دیگر بود. یک جستوجوی معکوس ساده هنوز کار میکند.
- انگیزه. این تصویر میخواهد چه احساسی در من روشن کند و چه کسی از آن احساس سود میبرد؟
- صبر. ساعت اولِ هر «خبر داغ»، آلودهترین ساعت آن است. حقیقت دیر میرسد، اما میرسد.
این چهار قلم، نسخهٔ فشردهٔ همان هفت سؤالی است که در جعبهابزار تیتر جنگی بازش کردهایم.
تحلیل آخر
داستان گروک و جمینای داستان شکست فناوری نیست؛ داستان جابهجایی مرجعیت است. هر نسلی مرجعی برای حقیقت داشته: کاهن، روزنامه، تلویزیون. نسل ما چتبات را انتخاب کرد — مؤدبترین مرجع تاریخ، که هرگز نمیگوید «نمیدانم» و همین ویژگی، آن را به بدترین بازرس تاریخ تبدیل میکند. راستیآزمایی هیچوقت محصول نبوده که بشود خریدش؛ رفتار است، و رفتار را باید خودتان انجام بدهید.
بازگشت به پرونده
این یادداشت یکی از پروندههای مجموعهٔ جنگ اطلاعاتی است؛ بایگانی کامل در هاب پروندههای دیپفیک.
