سریال محبوب «بازی ماهی مرکب» (Squid Game) موج عظیمی از اشتیاق عمومی در رسانه‌های خبری و میم‌های اینترنتی را در شبکه‌های اجتماعی سراسر جهان ایجاد کرده است. نمایش و محبوبیت این سریال را می‌توان از جهات مختلفی درک کرد. من از نقش فناوری و به ویژه هوش مصنوعی به‌کارگرفته‌شده در سناریوی این سریال خیلی خوشم آمد. زیرا بدون استفاده از آنها، خلق بسیاری از موقعیت‌ها و عناصر در این سریال امکان‌پذیر نبود.
«هوش مصنوعی» کلید سریال است
برای مدیریت بازی‌های مرگبار در این سریال، فناوری و به ویژه هوش مصنوعی عنصر اصلی بود. در شروع سریال، انتخاب شرکت‌کنندگان برای حضور در بازی، بدون داشتن پایگاه داده و فیلترینگ هوشمند و الگوریتم جستجو امکان پذیر نبود. چنین موتور جستجویی به مهندسان نرم‌افزار در جلو و پشت صحنه نیاز دارد و از یک سامانه توصیه‌نامه برای شرکت کنندگان «آینده» باید استفاده کند.
با رسیدن به بخش بازی‌ها در سریال، اولین بازی به‌صورت «چراغ سبز، چراغ قرمز» برای ما ترجمه شد؛ اما ترجمه واژه به واژه بازی باید «موگونگ‌هوا شکوفا شد» باشد. موگونگ‌هوا (Mugunghwa) همان گل رز شارون یا ختمی درختی است که گل ملی کره جنوبی است. عبارت‌های «چراغ سبز» و «چراغ قرمز» در واقع همان چیزی است که با چرخیدن سر عروسک مجهز به هوش مصنوعی به پشت سرش تکرار می‌شود. قوانین بازی هم در سریال کمی متفاوت هستند. بازیکنان می‌توانند حرکت کنند در حالی که عروسک، عبارت مورد نظر را تکرار می‌کند. اما وقتی سرش می‌چرخد باید بلافاصله بی‌حرکت شوند. وگرنه می‌بازند (در سریال بی‌درنگ به آنها شلیک و کشته می‌شوند).
عروسک مورد استفاده در این سریال در واقع رباتی بزرگ با دو چشم مجهز به دوربین زوم‌کننده است. هر زمان که سرش برای اسکن شرکت‌کنندگان می‌چرخد، سعی می‌کند حرکت را تشخیص بدهد. اگر کسی حرکت کند، آن شخص شناسایی شده و با تفنگ‌های دقیق کنترل‌شونده از راه دور با دقت هدف شلیک قرار می‌گیرد. در اینجا چند تکنیک درگیر است و به طرز وحشتناکی همه آنها امروزه به آسانی در دسترس است.
1. تشخیص حرکت: این کار بسیار آسان و با چند خط کدنویسی پایتون انجام می‌شود.
2. تشخیص چهره: تشخیص چیزی به عنوان یک فرد، نوعی کار تشخیص اشیاست و با فناوری یادگیری عمیق (برای مثال، YOLO) بسیار آسان است. از سوی دیگر، تشخیص اینکه آن شخص کیست، به کار خیلی بیشتری نیاز دارد. اما برای آن کافی است تعدادی تصویر آموزشی جمع کنید تا این هم انجام شود.
3. رباتیک: چند اسلحه از راه دور در امتداد دیوارها وجود داشت. به نظر می رسید روی این تفنگ‌ها هیچ حسگری نصب نشده است. بنابراین فرض می‌کنم که اطلاعات بصری مورد نیاز از چشم‌های ربات دریافت می‌شود. اطلاعات باید حداقل شامل موقعیت، فاصله و وضعیت هدف باشند. کالیبره‌شدن هر تفنگ با دوربین هم چیز کم‌اهمیتی نیست، اما این را هم می‌توان انجام داد.
حالا به این فکر کنید که چرا در این سریال از یک ربات مجهز به هوش مصنوعی و تفنگ خودکار به جای یک انسان واقعی و کارکنان بازی استفاده شده است؟!
برای این بازی، فناوری هوش مصنوعی به‌طور ویژه‌ای مورد نیاز بود زیرا حس «برابری» را برای بیننده ایجاد می‌کرد. تصور کنید مدیریت این بازی مرگبار را یک انسان واقعی به جای عروسک ربات انجام می‌داد و به جای تیراندازان رباتیک از کارکنان یا همان سربازان در بازی استفاده می‌شد. مسلما یک انسان نمی‌توانست حرکات بسیاری از افراد را در یک زمان دقیق و منصفانه ردیابی کند و صد درصد درست تشخیص دهد. در این صورت نسبت به اینکه آیا شخصی واقعا تکان خورده است یا نه، اختلاف نظرهای زیادی وجود می‌داشت. علاوه بر این، افراد تیرانداز، حتی بهترین تک‌تیراندازها هم نمی‌توانند با چنین دقت بالایی به یک شیء متحرک در جمعیتی که دیوانه‌وار حرکت می‌کنند و متوقف می‌شوند تیراندازی کنند.
این در حالی است که با به‌کارگیری هوش مصنوعی، چیرگی بر همه این مشکلات ممکن می‌شود. اگر قرار بود به جای عروسک رباتیک در بازی «چراغ قرمز، چراغ سبز» یک انسان آن را اداره کند، همه با او بحث می‌کردند و کلا بازی از ریتم می‌افتاد. اما وقتی همه می‌فهمند یک ربات مجهز به هوش مصنوعی است که حرکات را تشخیص می‌دهد و شلیک می‌کند، کسی با او بحث نمی‌کند. دقت هوش مصنوعی از توان ما فاصله دارد و ظاهراً عملکردش از نظر عمومی بی‌طرفانه است. در این سریال، دیدیم که شرکت‌کنندگان در این بازی نسبت به پیامدهای خشن و مرگبار باختشان اعتراض دارند، اما به مدیریت و شیوه اداره بازی‌ها اعتراضی نمی‌کنند و دیدیم همه قبول دارند بازی‌ها عادلانه است.
راه حل، هوش مصنوعی نیست
حساسیت نسبت به پیامدهای استفاده گسترده از هوش مصنوعی در شئون مختلف، سال گذشته پس از مرگ جرج فلوید و پیامدهای آن در آمریکا به بحث بزرگی تبدیل شد. ما اکنون می‌دانیم هوش مصنوعی می‌تواند به اندازه انسان‌ها یا حتی بیشتر از آنها جانبدار باشد. مشکلات می‌توانند در سطوح مختلفی مطرح شوند: برای مثال، یک مجموعه داده نامتوزان، بروز اختلال مختصر در پارامترها به هنگام تمرین، تغییر دامنه یا حملات مخرب خصمانه. از آنجا که هنوز هوش مصنوعی در مراحل اولیه توسعه است، مشکلات و پیامدهای آن را از قبل به سختی متوجه می‌شویم.
از نظر من، سریال بازی ماهی مرکب به‌طور گرافیکی نشان می‌دهد که چگونه افراد ثروتمند و قدرتمند می‌توانند از هوش مصنوعی در نقش ابزار مناسب دیگری برای بهره‌کشی از افراد ضعیف استفاده کنند. این فکر ترسناکی است که شما توسعه‌دهنده نرم‌افزار و محقق شاغل در حوزه هوش مصنوعی باشید و در حالی به حرفه‌تان افتخار کنید که بتواند به چیزی بسیار شیطانی و خشن تبدیل شود.
این احساساتی است که این روزها از جانب بسیاری از محققان هوش مصنوعی نیز مطرح می‌شود. یولو (YOLO سرواژه عبارتی به معنی «شما فقط یکبار نگاه می‌کنید») که امروزه از محبوب‌ترین مدل‌های تشخیص اشیاست را جوزف ردمون توسعه داده است. او در سال 2017 با افتخار، آخرین دستاورد کاری خود را در یک سخنرانی TED معرفی کرد که به‌طور گسترده‌ای در فضای وب دیده شد.
با این حال او یک سال بعد فهمید نیروهای نظامی از الگوریتم او برای ردیابی و کشتن صدها و هزاران نفر در خاورمیانه و سراسر جهان استفاده کرده‌اند و این واقعیت را در حالی که وحشت‌زده بود در شبکه‌های اجتماعی به اشتراک گذاشت. برای مثال، یکی از دانشمندان برنامه هسته‌ای ایران سال گذشته (2020) با یک مسلسل مجهز به هوش مصنوعی ترور شد. در تابستان امسال نیز غیرنظامیان در افغانستان با پهپاد نظامی هدف قرار گرفتند و کشته شدند.
زندگی از هنر تقلید می‌کند
محبوبیت خیره‌کننده درام در میان مردم تا حد زیادی مدیون این واقعیت است که آینده دور را به زمان حال و اکنون ما می‌آورد. گفته می‌شود کارگردان این سریال، فیلمنامه «بازی ماهی مرکب» را ده سال پیش نوشته بود، اما کسی روی سناریوی او سرمایه‌گذاری نکرد زیرا ایده‌اش بسیار دور از ذهن به نظر می‌رسید. حالا اما جهان با دید آخرالزمانی او درگیر شده و به چالش‌هایش فکر می‌کند.
همه‌گیری کرونا و سقوط اقتصادی باعث شده ثروتمندان ثروتمندتر و فقرا فقیرتر شوند و زمینه شکل‌گیری طوفانی تمام عیار برای درامی آخرالزمانی مهیا شود.
تحقیق و توسعه هوش مصنوعی تحت سیطره بزرگ‌ترین غول‌های فناوری جهان است که معمولاً به آنها مافیای جی (G-MAFIA از سرواژه‌های گوگل، مایکروسافت، آمازون، فیس‌بوک، آی‌بی‌ام، اپل) در ایالات متحده و بات (BAT از سرواژه‌های بایدو، علی‌بابا و تنسنت) در چین گفته می‌شود.
در این سریال، شرکت‌کنندگان همیشه گزینه «توقف بازی» در صورت رأی اکثریت را داشتند. البته شرکت‌کنندگان به‌خاطر استقرار روند دموکراتیک حاکم بر بازی بود که توهم آزادبودن در این فرایند را داشتند. واقعیت تلخ این است که دموکراسی می‌تواند راه دیگری برای مشروعیت بخشیدن به هژمونی اکثریت بر حقوق اقلیت‌ها باشد. دیده‌ایم چطور اینفلوئنسرهای شبکه‌های اجتماعی در ایالات متحده و دیگر کشورها انتخابات را مهندسی می‌کنند. آزادی در زندگی ما توهمی بیش نیست.
در بیشتر کشورهای غیر انگلیسی‌زبان و به‌ویژه در آسیا، صرفا انگلیسی صحبت‌کردن به شما امتیاز حقوق بالاتر و فرصت‌های شغلی بیشتری می‌دهد. تصادفی نیست که همه افراد وی‌آی‌پی در بازی ماهی مرکب، انگلیسی یا چینی صحبت می‌کردند. به‌طور مشابه در دنیای واقعی نیز توسعه‌دهندگان نرم‌افزار و هوش مصنوعی در گروه درآمدی بالاتری قرار دارند و علوم رایانه و هوش مصنوعی نیز بر همین اساس امروزه به زمینه‌های بسیار رقابتی تبدیل شده‌اند.
در مرداد امسال، صدها و هزاران شهروند افغانستانی از سیطره حکومت طالبان طالبان فرار کردند و همه ما و از جمله خودم به کمک فناوری‌های امروزی، تلخی سرنوشت آنان را از تلویزیون خیلی راحت در خانه تماشا کردیم.
واقعیت این است که سریال «بازی ماهی مرکب» یک درامی نیست که پس از تماشا در شما احساسات خوب را بیدار کند و قطعاً تماشای آن را به جوانان توصیه نمی‌کنم. سریال در حالی تمام شد که پرسش‌های قابل تاملی بر جا گذاشت. در این یادداشت به تشریح چگونگی استفاده از هوش مصنوعی و فناوری برای مدیریت و کنترل افراد از سوی ثروتمندان و قدرتمندان پرداختیم. اما هوش مصنوعی تنها مقصر این ماجرا نیست. واقعیت اسن است که کسی که بهیار، پرستار یا پزشک است اگر عقل درستی نداشته باشد و به اصول اخلاقی هم پایبند نباشد ممکن است در نهایت شغلش جمع‌آوری اعضای بدن انسان‌های دیگر شود. استیصال و شرایط ناامیدکننده می‌تواند شیاطین وجودی ساکن در کالبد شهروندان عادی و مطیع قانون را بیدار کند.
طنز غم انگیزتر ماجرای سریال آنجاست که افراد وی‌آی‌پی و کارگرانی که پشت ماسک‌هایشان هستند هم واقعاً خوشحال نیستند. زندگی بسیار کسالت‌آور آنها سبب شد چنین بازی تشنه به خونی را به‌وجود آورند. زیرا زندگی آنها بسیار خسته کننده بود. ثروتمندان در همه بازی‌ها پیروز شدند و همه پولی که می‌توانستند به دست آورند را مال خود کردند تا بفهمند خوشبختی قیمت ندارد و خریدنی نیست.
از اینجا به کجا می‌رویم؟
اکنون سؤال این است که ما از اینجا به کجا می‌رویم؟ آیا همه باید شغل خود را رها کنیم و به دنبال پناهگاهی در بیابان باشیم؟ نه. چنین کاری ممکن است برای برخی انتخاب درستی باشد اما نه برای بیشتر افراد. به‌علاوه اگر همه به طبیعت پناه ببرند، جایی برای سکونت بدون ایجاد اختلافات سرزمینی باقی نمی‌ماند. اگر چنین اتفاقی بیفتد، جهنم را از دنیای شرکت‌های سرمایه‌داری به فضای بیرون منتقل کرده‌ایم.
در نگاه کلان و برای رسیدن به دنیایی بهتر، باید مقرراتی وضع شود که استفاده و دسترسی به اطلاعات شخصی را محدود کند، بدون اینکه مانعی برای پیشرفت فناوری باشد. کمک به ایجاد فرصت‌های تحصیلی و شغلی برابر سبب می‌شود زمین بازی برای بیشتر آدم‌ها تراز شود. فناوری و ثروت باید در اختیار همه باشد. نظام آموزشی و به ویژه آموزش عالی باید اخلاق را بخشی از برنامه درسی خود در نظر بگیرد. آموزش مهندسی برای حل مشکلات ما عمدتا بر پاسخ به پرسش‌هایی متمرکز است که با واژه «چگونه» شروع می‌شود. این در حالی است که ما باید مهندسان را به دانسته‌های دیگری هم مجهز کنیم تا به پاسخ سوال‌هایی هم بپردازند که با «چه چیزی» و «چرا» شروع می‌شود. این روزها مؤسسات علمی پیشرو جهان مانند هاروارد و استنفورد، یک برنامه اخلاق (EthiCS) ارائه کرده‌اند که شامل بحث در مورد مسائل اخلاقی در دوره‌های آموزشی علوم کامپیوتر است.
قدرت هوش مصنوعی باید در اختیار همه قرار بگیرد. خوشبختانه با پلتفرم‌های برنامه‌نویسی کم کد و بدون کد، این روزها دیگر به تحصیلاتی در سطح دکتری برای کار در حوزه هوش مصنوعی نیاز ندارید. دموکراتیزه‌شدن هوش مصنوعی دیگر یک جریان بسته نیست. وقتی افراد بیشتری در توسعه هوش مصنوعی مشارکت می‌کنند، شما چهره هوش مصنوعی را با ماسک آنها خواهید دید.
قدرت یک
دورنمای عملی‌شدن تغییرات مورد اشاره بسیار دور و دراز است، اما طولانی‌ترین سفرها با برداشتن اولین قدم شروع می‌شود. اولین پله شامل سه عنصر است.
یک زندگی
در خارج از جامعه هوش مصنوعی و یادگیری ماشین، YOLO سرواژه عبارت «You Only Live Once» به این معنی است که «شما فقط یک بار زندگی می‌کنید.» این خودش هم نوعی نفرین است، هم نعمت! تنها یک زندگی برای زنده ماندن دارید که باید قدرش را بدانید. زندگی مهم است، خواه سیاه باشد یا سفید.
بله درست است، زندگی از همان ابتدا ناعادلانه است. با این واقعیت زندگی کن. نکته بزرگ این است که هرچند زندگی ناعادلانه آغاز می‌شود، مرگ عین برابری است: سرنوشتی که بر ثروتمندان و فقرا به شکل یکسانی مسلط می‌شود. پس از مرگ ما آنچه مهم است این نیست که چقدر پول در حساب بانکی خود داشته‌ایم؛ بلکه مهم این است که چه میراث و تأثیری بر زندگی‌هایی داشته‌ایم که با آن روبه‌رو شده‌ایم. این همان مفهوم «یک زندگی در یک زمان» است.
یک شخص
آن «یک زندگی» با شما شروع می‌شود. ممکن است مهندس، پزشک یا مدیر باشید، اما یک نام دارید. شما رباتی نیستید که برای کار در یک سازمان یا شرکت طراحی شده باشید. بنابراین با انسان‌ها همچون ماموری بی‌احساس در نیروی انسانی رفتار نکنید.
ممکن است احساس کنید بین یک صخره و در موقعیت دشواری گیر کرده‌اید، اما هیچ‌کس کنترلی بر شکاف درونی روح شما ندارد. شما در بازی هستید، اما لازم نیست دیگر بازیکنان را دشمن تلقی کنید. کافی است با دست خودتان برای همکارتان قهوه بخرید. کرایه اتوبوس غریبه‌ای را بدهید. کاری برای هم‌نوعتان بکنید: «یک نفر در یک زمان.»
یک روز
منتظر فردا نباش و امروز انجامش بده. اگر به اندازه کافی عمر کردید، پشیمانی شما ممکن است بیشتر از امیدها و رویاهای امروزتان باشد. با عواقب زندگی گذشته کنار بیایید، بی‌خیالشان شوید و به زندگی در امروز ادامه دهید.
اجازه ندهید ترس از فردا سبب بازماندنتان از قدم گذاشتن به آینده نامعلوم شود. برنامه ای لازم است اما نگذارید ترس از عدم قطعیت متوقفتان کند.
«بنابراین نگران فردا نباشید، زیرا فردا نگران خود خواهد بود. هر روز به اندازه کافی مشکلات خودش را دارد.» (انجیل متی، 6:34)
دیروز گذشته و خوب یا بد فردا ممکن است هیچ‌وقت از راه نرسد. امروز را طوری زندگی کنید که گویی آخرین روز زندگی شماست: «یک روز در یک زمان.»