زمان تنظیم‌گری هوش مصنوعی فرا رسیده است – تی ام گیم
زمان تنظیم‌گری هوش مصنوعی فرا رسیده است – تی ام گیم
• ابتدا، می‌خواهم به شما و تیم‌تان به خاطر اخبار اخیر مبنی بر اینکه ChatGPT در امتحان مجوز پزشکی ایالات متحده، آزمون MBA مدرسه کسب و کار وارتون و چهار آزمون بزرگ دانشگاهی حقوق مدرسه نمره قبولی کسب کرده است، تبریک بگویم. آیا احساس می‌کنید فرزند باهوشی دارید؟
ما این سطح از هیجان را به دنیا آوردن فرزندمان پیش‌بینی نمی‌کردیم. در واقع، حتی در این مورد ترس داشتیم. من منتظرم که علاوه بر لذت بردن مردم از تازگی و کنجکاوی درباره ChatGPT، حوزه‌هایی را ببینم که این نرم‌افزار شروع به تولید محتوای مفید برای مردم بکند.
• من از ChatGPT پرسیدم که “چه سوالی از شما بپرسم” و او هم این سوال را پیشنهاد کرد: «محدودیت‌ها یا چالش‌هایی که در حین کار با ChatGPT با آنها مواجه شده‌اید چیست و چگونه بر آنها غلبه کرده‌اید؟»
سوال خوبی است. ChatGPT اساساً یک مدل مکالمه بزرگ است؛ یک شبکه عصبی بزرگ که برای پیش‌بینی کلمه بعدی آموزش داده شده است. چالش‌های مربوط به آن چالش‌های مشابهی هستند که در مدل‌های زبانی بزرگ می‌بینیم: اینکه ممکن است واقعیاتی را سر هم کند.
• و این کار را با اطمینان زیادی هم انجام می‌دهد…
بله. این در واقع چالش اصلی است. ما مخصوصا مکالمه را انتخاب کردیم؛ زیرا گفت‌وگو راهی برای تعامل با یک مدل و دادن بازخورد به آن است. اگر فکر کنیم که پاسخ مدل نادرست است، می‌توان گفت: «مطمئنی؟ فکر می‌کنم در واقع…» و سپس مدل فرصت پیدا می‌کند که با شما بحث کند، شبیه به همان روشی که با انسان دیگری مباحثه می‌کنیم.
• فناوری‌هایی که واقعا نوآورانه هستند، مشکلی را حل می‌کنند. ChatGPT چه مشکلی را حل می‌کند؟
در حال حاضر، این پروژه در مرحله بررسی تحقیقاتی است، بنابراین نمی‌خواهم با اطمینان بالا در مورد اینکه چه مشکلاتی را حل می‌کند صحبت کنم. اما فکر می‌کنم مشهود است که ظرفیت ایجاد انقلاب در روش یادگیری ما را دارد. افراد در کلاس‌های مثلاً 30 نفره درس می‌خوانند. همه افراد سوابق و روش‌های یادگیری متفاوتی دارند، اما همه اساساً برنامه درسی یکسانی را دریافت می‌کنند. با ابزارهایی مانند ChatGPT، می‌توانید بدون محدودیت با یک مدل صحبت کنید تا یک مفهوم را به گونه‌ای درک کنید که مطابق با سطح درک شما باشد. این هوش مصنوعی ظرفیت بسیار زیادی برای کمک به ما در آموزش شخصی دارد.
• اما برخی مدارس ChatGPT را ممنوع می کنند. آیا این شما را شگفت زده می کند؟
وقتی ما به توسعه این فناوری‌ها می‌پردازیم، واقعا هدف‌مان این است که به سمت هوش عمومی این فناوری‌ها هستیم، واقعاً به سمت هوش عمومی، قابلیت‌های‌عمومی با ظریب اطمینان بالا برویم و این کار را هم با رعایت ایمنی انجام دهیم. اما وقتی چنین محصولی را در دسترس افراد متعدد با پیشینه‌ها و تخصص‌های مختلف قرار دهید، قطعاً از انواع کارهایی که آنها با این فناوری انجام می‌دهند، چه در جنبه مثبت و چه در جنبه منفی، شگفت‌زده خواهید شد.
• تعداد فزاینده‌ای از افراد برجسته در مورد خطرات هوش مصنوعی هشدار می‌دهند. آیا شما هم در مورد این فناوری تردید دارید؟
اکنون لحظه‌ای منحصر به فرد در زمان است که در آن، ما در نحوه شکل دادن به جامعه عاملیت داریم. این مسئله در دو جبهه پیش می‌رود: فناوری به ما شکل می‌دهد و ما هم به فناوری شکل می‌دهیم. هنوز بسیاری مشکلات هست که باید بر آنها غلبه کنیم. اینکه چگونه مدل را وادار می‌کنید تا کاری را که می‌خواهید انجام دهد، و چگونه مطمئن می‌شوید که با نیت انسان هماهنگ است و در نهایت در خدمت بشریت است یا نه؟ همچنین سؤالات زیادی در مورد تأثیرات اجتماعی این فناوری وجود دارد. سؤالات اخلاقی و فلسفی متعددی هم هست که باید آنها را در نظر بگیریم. مهم است که ما صداهای مختلفی مانند فیلسوفان، دانشمندان علوم اجتماعی، هنرمندان و افراد علوم انسانی را در این فناوری دخیل کنیم.
• سوال اخلاقی یا فلسفی کلیدی که باید پاسخ آن را بیابیم چیست؟
هوش مصنوعی می‌تواند مورد سوء استفاده قرار گیرد، یا می‌تواند توسط بازیگران بد استفاده شود. بنابراین، سؤالاتی در مورد نحوه مدیریت استفاده از این فناوری در سطح جهانی وجود دارد. سوال مهم این است که چگونه استفاده از هوش مصنوعی را به روشی که با ارزش‌های انسانی همسو باشد کنترل کنیم.
• به نظر شما پاسخ این سوالات باید به شرکت‌هایی مانند شما سپرده شود یا دولت‌ها باید در مقررات‌گذاری دخالت کنند؟
برای OpenAI و شرکت‌هایی مانند ما مهم است که این موضوع را به گونه‌ای کنترل شده و مسئولیت پذیر به آگاهی عمومی برسانیم. اما ما گروه کوچکی از مردم هستیم و به تعداد زیادی ورودی بیشتر در سیستم و ورودی‌های بسیار بیشتری فراتر از فناوری‌ها نیاز داریم. قطعاً تنظیم‌کننده‌ها و دولت‌ها و همه افراد دیگر در این زمینه نقش دارند.
• همیشه این ترس وجود دارد که دخالت دولت روند نوآوری را کند خواهد کرد. فکر نمی‌کنید هنوز برای سیاست گذاران و نهادهای نظارتی زود است که وارد این حوزه شوند؟
زود نیست. با توجه به تأثیری که این فناوری‌ها خواهند داشت، برای همه بسیار مهم است که دولت‌ها مشارکت را آغاز کنند.
• میرا، می‌توانی یک آهنگ یا آلبوم، یک کتاب و یک فیلم به من معرفی کنی که به ما بینشی در مورد اینکه تو کی هستی و چه چیزی الهام‌بخش توست، بدهد؟
• آهنگ: اندروید پارانوئید از Radiohead آهنگی لایه‌لایه است و موضوعات مرتبط با جامعه در فناوری را لمس می کند. نه چندان نشاط آور اما زیبا و قابل تامل.
• کتاب: مرثیه‌های دوینو، مجموعه‌ای از اشعار راینر ماریا ریلکه. من اخیراً این را به عنوان هدیه دریافت کردم و عمق و زیبایی اشعار آن را بسیار الهام بخش یافتم.
• فیلم: 2001: A Space Odyssey همچنان با تصاویر و موسیقی خود تخیل من را برمی‌انگیزد، به خصوص در سکانس نفس‌گیری که شاتل فضایی همراه با والس آبی دانوب یوهان اشتراوس پهلو می‌گیرد و بی‌وزنی این رویداد و شکوه لحظه را به تصویر می‌کشد. (روزنامه فناوران)
