تکین ریویو: جنجال دیو اگرز در مقر OpenAI و ساکت کردن یک نسل

۱. جنجال در قلب دشمن: سخنرانی در میان ۲۰۰ مهندس OpenAI

دیو اگرز، نویسنده نامدار آمریکایی، در جریان دعوت رسمی به مقر OpenAI، با حملاتی بی‌سابقه و تند، محصولات این شرکت را ویرانگر خلاقیت و «خفه‌کننده صدای یک نسل کامل» توصیف کرد. این سخنرانی در حالی انجام شد که سم آلتمن و صدها مهندس نابغه در حال خلق آینده بشریت و پردازش میلیاردها توکن اطلاعات هستند.

تصور کنید به قلب امپراتوری تکنولوژی دعوت شده‌اید؛ جایی که سم آلتمن (Sam Altman) و صدها مهندس نابغه در حال خلق آینده بشریت هستند و روزانه میلیاردها توکن اطلاعات را پردازش می‌کنند تا هوش جامع مصنوعی (AGI) را محقق سازند. انتظار می‌رود شما به عنوان مهمان ویژه، از پیشرفت‌های خیره‌کننده آن‌ها تمجید کنید و در مورد همکاری مشترک ماشین و انسان در آینده هنر سخن بگویید. اما دیو اگرز (Dave Eggers)، نویسنده تحسین‌شده و نامزد جایزه معتبر پولیتزر، تصمیم گرفت به جای تعریف و تمجیدهای مرسوم، یک بمب خبری ویرانگر را مستقیماً در سالن کنفرانس OpenAI منفجر کند. او مستقیماً به چشمان سازندگان ChatGPT نگاه کرد و آن‌ها را نه قهرمانان تکنولوژی، بلکه عاملان نابودی پایه‌های آموزش و تفکر انسانی خطاب کرد.

در اواسط جولای ۲۰۲۶، انتشار جزئیات این جلسه خصوصی که سال گذشته برگزار شده بود اما ابعاد جدید و دقیق آن به تازگی توسط فایننشال تایمز (Financial Times) و سایر رسانه‌های معتبر فاش شد، موجی از بهت، حیرت و البته خشم را در سیلیکون‌ولی به همراه داشت. اگرز نیامده بود تا درباره آینده هیجان‌انگیز همکاری هنر و ماشین صحبت کند؛ او نیامده بود تا بگوید چگونه هوش مصنوعی می‌تواند به نویسندگان در طوفان فکری (Brainstorming) کمک کند. او آمده بود تا یک هشدار تاریخی، بی‌پرده و به شدت تلخ بدهد: «شما در حال ساکت کردن یک نسل کامل هستید.» اما چه چیزی باعث شد تا خالق ده‌ها رمان پرفروش و بنیان‌گذار سازمان‌های بزرگ حمایت از نویسندگان، چنین موضع رادیکالی علیه انقلابی‌ترین ابزار قرن بیست و یکم بگیرد؟ برای درک این موضوع، باید ابتدا به ریشه‌های تفکر اگرز و سپس به ساختار ویرانگر الگوریتم‌های زبانی در مدارس نگاهی بیندازیم.

برای درک عمق فاجعه‌ای که اگرز به تصویر می‌کشد، باید به ذات عمل نوشتن برگردیم. نوشتن در طول تاریخ بشر، هرگز صرفاً به معنای کنار هم قرار دادن کلمات با گرامر صحیح نبوده است. نوشتن یک فرآیند دردناک، چالش‌برانگیز و در عین حال شفابخش برای کشف خود، نظم دادن به افکار درهم‌ریخته و در نهایت شکل‌گیری هویت فردی است. زمانی که ما یک صفحه سفید را پیش روی خود می‌بینیم، در واقع با اعماق ناخودآگاه خود روبرو می‌شویم. وقتی یک دانش‌آموز یا دانشجو، وظیفه فکر کردن و نگارش را به یک الگوریتم واگذار می‌کند، در واقع در حال «برون‌سپاری کردن صدای خود به یک ماشین» است. نتیجه این روند، تولید انبوهی از انسان‌های بی‌صدا، فاقد تفکر انتقادی، و ناتوان در بیان احساسات پیچیده در آینده‌ای نزدیک خواهد بود.

اگرز معتقد است که تکنولوژی‌های قبلی مانند ماشین‌حساب یا حتی ویکی‌پدیا، تنها دسترسی به اطلاعات یا محاسبات را ساده می‌کردند، اما هوش مصنوعی مولد (Generative AI) پا را بسیار فراتر گذاشته است. این تکنولوژی دیگر ابزاری برای رسیدن به هدف نیست، بلکه خودِ هدف را می‌بلعد. وقتی شما نوشتن یک انشا درباره «تجربه اولین شکست زندگی» را به هوش مصنوعی می‌سپارید، ماشین‌حساب به شما کمک نکرده است؛ بلکه ماشین جایگزین روح، احساس و تجربه زیسته شما شده است.

حضور اگرز در OpenAI تنها یک سخنرانی ساده نبود؛ این یک تقابل ایدئولوژیک بود. در یک سوی میز، مهندسانی نشسته‌اند که معتقدند هر مشکلی در جهان - از جمله نوشتن یک متن - یک «معادله ریاضی» است که می‌توان آن را بهینه‌سازی کرد. در سوی دیگر، متفکری ایستاده است که می‌گوید انسان بودن در گرو همین نقص‌ها، دست‌وپا زدن‌ها برای یافتن کلمات، و مکث‌های طولانی برای فکر کردن است. وقتی ما این مکث‌ها و تلاش‌ها را با یک کلیک و در کسری از ثانیه جایگزین می‌کنیم، چه چیزی از انسانیت ما باقی می‌ماند؟ این سوالی است که در سرتاسر این مقاله به آن پاسخ خواهیم داد.

۲. فاجعه خاموش در کلاس‌های درس: وقتی ماشین به جای انسان فکر می‌کند

یکی از درخشان‌ترین و در عین حال تلخ‌ترین و تکان‌دهنده‌ترین لحظات سخنرانی اگرز زمانی بود که به بحران عمیق و روزافزون نظام آموزشی اشاره کرد. او در حالی که به صورت سازندگان بزرگترین سیستم‌های پردازش زبان طبیعی (NLP) در جهان نگاه می‌کرد، با لحنی سرزنش‌بار گفت: «شما شغل هر معلمی را غیرقابل تحمل کرده‌اید.» این یک اغراق ژورنالیستی یا یک کنایه ادبی نیست؛ این دقیقاً وضعیتی است که در سال ۲۰۲۶ در مدارس، دانشگاه‌ها و موسسات آموزشی سراسر جهان در جریان است. معلمان دیگر نمی‌توانند با اطمینان تشخیص دهند که آیا در حال تصحیح برگه امتحانی و خواندن افکار یک دانش‌آموز نوجوان هستند، یا در حال خواندن خروجی بی‌نقص اما بی‌روح سرورهای ابری OpenAI که در کسری از ثانیه تولید شده است.

سیستم آموزشی ما بر اساس یک توافق نانوشته بنا شده بود: دانش‌آموز تلاش می‌کند، معلم ارزیابی می‌کند. هوش مصنوعی این توافق هزارساله را به طور کامل نابود کرده است. وقتی دانش‌آموزی می‌داند که با نوشتن یک پرامپت (Prompt) سه کلمه‌ای می‌تواند مقاله‌ای پنج صفحه‌ای با رعایت دقیق‌ترین اصول نگارشی تحویل دهد، چرا باید ساعت‌ها در کتابخانه وقت بگذارد و با جملات کلنجار برود؟ این پدیده، تنها یک «تقلب ساده» نیست؛ این به معنای دور زدن کامل فرآیند یادگیری است. اگرز به درستی اشاره می‌کند که ما در حال حذف کردن مهم‌ترین بخش آموزش، یعنی «تلاش و رنج کشیدن برای فهمیدن» هستیم.

در جریان این دیدار پرتنش، یک اتفاق بسیار نمادین رخ داد. وقتی یکی از کارمندان OpenAI با افتخار و هیجان به اگرز گفت که از ChatGPT استفاده کرده تا یک شعر در ستایش زادگاهش بنویسد، اگرز با یک پرسش ساده اما ویرانگر او را خلع سلاح کرد: «چرا خودت آن را ننوشتی؟» این مکالمه کوتاه، دقیقاً نقطه برخورد دو ایدئولوژی کاملاً متضاد است. مهندسین سیلیکون‌ولی، نوشتن را به عنوان یک «وظیفه» (Task) یا یک مشکل مهندسی می‌بینند که باید با بالاترین سرعت و بهینه‌ترین حالت ممکن حل شود. آن‌ها به خروجی نهایی اهمیت می‌دهند. اما برای نویسندگان، هنرمندان و اندیشمندان، نوشتن خودِ هدف است. فرآیند پیدا کردن کلمات برای توصیف دلتنگی برای زادگاه، همان چیزی است که به آن شعر ارزش انسانی می‌بخشد. شعری که توسط ماشین در یک ثانیه تولید شده باشد، هر چقدر هم که زیبا باشد، کاملاً بی‌ارزش است زیرا هیچ تجربه زیسته و رنجی پشت آن نیست.

۳. خط قرمز زیر ۲۲ سال: یک هشدار تکان‌دهنده بیولوژیک و روان‌شناختی

اگرز در بخشی از صحبت‌های خود یک مرز مشخص را ترسیم کرد که تا مدت‌ها در محافل آکادمیک، روان‌شناسی و تکنولوژی مورد بحث و مجادله خواهد بود. او به صراحت و با قاطعیت اعلام کرد که: «هیچ مقدار ایمنی از هوش مصنوعی در حوزه علوم انسانی برای کودکان و جوانان زیر ۲۲ سال وجود ندارد، حداقل در زمینه نوشتن.» این ادعا ممکن است در نگاه اول افراطی به نظر برسد، اما کاملاً بر اساس واقعیت‌های علمی و بیولوژیکی استوار است. قشر پیش‌پیشانی مغز (Prefrontal Cortex) - بخشی از مغز که مسئول تصمیم‌گیری‌های پیچیده، استدلال منطقی، درک احساسات عمیق و تفکر انتقادی است - تا حدود سن ۲۵ سالگی همچنان در حال تکامل و شکل‌گیری است.

مهارت‌هایی مانند استدلال عمیق، توانایی برقراری ارتباط بین مفاهیم انتزاعی، و بیان احساسات پیچیده، تنها و تنها از طریق تمرین مداوم و درگیری مستقیم ذهن (از جمله از طریق نوشتن) شکل می‌گیرند. وقتی ما این تمرین ذهنی را در سنین نوجوانی متوقف می‌کنیم و آن را به یک ربات چت واگذار می‌کنیم، در واقع در حال متوقف کردن فرآیند تکامل این بخش حیاتی از مغز هستیم. این یک فاجعه شناختی است که اثرات آن ممکن است تا دهه‌ها بعد در جامعه نمایان نشود.

۴. بنچمارک انسانی: چرا متون هوش مصنوعی صرفاً «آشغال‌های تقلیدی» هستند؟

اگرز پیش از این نیز در مقالات و مصاحبه‌های متعدد خود، متون تولید شده توسط هوش مصنوعی را با عبارت تند "Pastiche Garbage" (آشغال‌های تقلیدشده و سرهم‌بندی شده از روی سبک‌های موجود) و یک «ترفند ارزان مهمانی» (Cheap Party Trick) توصیف کرده بود. برای درک بهتر این ادعای سنگین، تیم تحریریه تکین‌گیم تصمیم گرفت یک آزمایش ساده اما عمیق طراحی کند. ما از نسخه پولی ChatGPT خواستیم یک متن احساسی درباره موضوع جهان‌شمول «ترک کردن خانه پدری برای همیشه» بنویسد و سپس دقیقاً همان موضوع را به یک نویسنده انسانی (یکی از اعضای تحریریه) سپردیم تا بدون استفاده از هیچ ابزاری آن را بنویسد.

تفاوت در این دو متن، تفاوت بین «توصیف کردن یک احساس» و «زیستن یک احساس» است. متن تولید شده توسط هوش مصنوعی کاملاً مشهود است: پر از صفات بزرگ، کلیشه‌های دستمالی‌شده (قلب سنگین، افق‌های جدید، پناهگاه امن) و جملات قابل پیش‌بینی است. ماشین‌ها نمی‌توانند «تجربه کنند»، آن‌ها فقط احتمال کلمه بعدی را بر اساس میلیاردها متن موجود در اینترنت محاسبه می‌کنند. نتیجه همیشه متنی است که از نظر گرامری بی‌نقص، اما از نظر روانی کاملاً عقیم، توخالی و فاقد هرگونه جزئیات خرد و شخصی است.

در مقابل، متن انسانی پر از نقص، پر از جزئیات کثیف واقعیت (سوراخ روی دیوار، صدای چمدان چرخدار) و دارای بار عاطفی واقعی است. این دقیقاً همان چیزی است که اگرز از آن دفاع می‌کند: هنر و ادبیات باید بازتابی از پیچیدگی‌های روح انسان باشد، نه خروجی یک تابع احتمالات ریاضی.

۵. واکنش جهانی مدارس و آینده تاریک آموزش

پس از این سخنرانی، سکوت سنگینی در مقر OpenAI حاکم شد. جالب اینجاست که سم آلتمن و سایر مدیران ارشد این شرکت تا این لحظه هیچ پاسخ رسمی به انتقادات اگرز نداده‌اند. آن‌ها ترجیح دادند با سکوت از کنار این رسوایی روابط عمومی عبور کنند. اما در دنیای واقعی و در کف کلاس‌های درس، واکنش‌ها بسیار متفاوت و بعضاً رادیکال است. بسیاری از مدارس و دانشگاه‌های برتر جهان در حال تغییر رویه کامل خود هستند تا بتوانند با این سونامی مقابله کنند.

سخنرانی دیو اگرز در نهایت چیزی بیشتر از یک هشدار بدبینانه بود؛ این یک زنگ بیدارباش برای صنعتی بود که تنها به رشد نمودارها، جذب سرمایه‌گذاران و ارزش سهام خود اهمیت می‌دهد.

اگر ما نتوانیم به عنوان یک جامعه، خطوط قرمزی برای استفاده از هوش مصنوعی در آموزش تعیین کنیم، نسل بعدی نه تنها صدای منحصر‌به‌فرد خود، بلکه توانایی خلق مفاهیم جدید را نیز از دست خواهد داد. آیا ما واقعاً می‌خواهیم فرزندانمان کلماتی را بنویسند که هرگز آن‌ها را احساس نکرده‌اند؟ آیا می‌خواهیم جهانی بسازیم که در آن ماشین‌ها برای ماشین‌ها می‌نویسند و انسان‌ها تنها نظاره‌گرانی خاموش هستند؟

شاید زمان آن رسیده باشد که به جای تلاش برای ساختن ماشین‌هایی که شبیه انسان فکر می‌کنند، تلاش کنیم انسان‌هایی بسازیم که از فکر کردن دست نکشند. سخنان دیو اگرز باید در سردر هر مدرسه و دانشگاهی حک شود: نوشتن، حق مسلم ما برای بیان وجود است؛ این حق را به چند خط کد نفروشیم.

در ادامه به بررسی پرتکرارترین سوالات پیرامون این رویداد می‌پردازیم:

لیست منابع اصلی مورد استفاده در این مقاله تحلیلی: