چرا ChatGPT با اعتمادبه‌نفس اشتباه می‌کنه؟
درس ۱۲۵ میلیون دلاری ناسا برای پرامپت
۲۸ مهر ۱۴۰۵ · ۴ دقیقه
چرا ChatGPT با اعتمادبه‌نفس کامل جواب اشتباه می‌ده؟ و چه جمله‌ای قبل از هر پرامپت (prompt) اضافه کنم که جوابش بهتر بشه؟
- تو:
فضاپیمای ۱۲۵ میلیون دلاری ناسا چطور گم شد؟
- مهدی:
۲۳ سپتامبر ۱۹۹۹. یه اتاق کنترل توی کالیفرنیا.
همه ساکت... چشم‌ها به مانیتور.
یه فضاپیما، بعد از نه ماه و نیم سفر، داره به مریخ می‌رسه. اسمش «مدارگرد آب‌وهوای مریخ» بود.
قرار بود اولین ماهواره‌ی هواشناسیِ یه سیاره‌ی دیگه باشه. موتورش روشن می‌شه...
می‌ره پشت سیاره... و قرار بود حدود بیست دقیقه بعد، از اون طرف دوباره صداش بیاد.
صداش هیچ‌وقت نیومد. فضاپیما به‌جای ۲۲۶ کیلومتر، رفته بود تا ۵۷ کیلومتریِ سطح مریخ.
توی جوّ سیاره... از بین رفت.
۱۲۵ میلیون دلار. سال‌ها کار.
تموم.
- تو:
یه فرضیه‌ی ساده چطور یه مأموریت رو نابود کرد؟
- مهدی:
می‌دونی مشکل چی بود؟ یه موتور خراب؟
یه قطعه‌ی سوخته؟ نه.
یه فرضیه. شرکت لاکهید مارتین، که فضاپیما رو ساخته بود، یه نرم‌افزار داشت که نیروی موتورها رو با واحد آمریکایی می‌داد.
پوند. تیم ناوبری ناسا اون عددها رو برمی‌داشت، و فرض می‌کرد متریه.
نیوتن. روی کاغذ نوشته بود متریک.
ولی هیچ‌کس چک نکرد. هیچ‌کس نپرسید: «ببخشید...
این عدد به چه واحدیه؟» فرقشون؟ ۴٫۴۵ برابر.
ماه‌ها، هر بار که موتورهای کوچیکش روشن می‌شد، مسیر یه ذره... کج‌تر شد.
و جالب‌ترش اینجاست: چند تا از ناوبرها حس کرده بودن یه چیزی درست نیست. ولی جواب شنیدن: «ثابت کن که مشکلی هست.» همه فرض کرده بودن فضاپیما سالمه.
یکی از مدیرای ناسا بعدش گفت: «مشکل، خودِ اون اشتباه نبود. مشکل این بود که سیستم ما نتونست پیداش کنه.»
- تو:
چرا ChatGPT با اعتمادبه‌نفس اشتباه می‌کنه؟
- مهدی:
حالا بذار یه سؤال ازت بپرسم. آخرین باری که یه ایده رو به هوش مصنوعی دادی...
فرضیه‌هات رو هم بهش گفتی؟ نه.
نگفتی. هیچ‌کدوممون نمی‌گیم.
می‌نویسیم: «برای اپم یه بیزینس پلن بنویس.» و تمام. ولی توی سرمون کلی فرض هست که هیچ‌وقت نوشته نشده.
اینکه مشتری داریم. اینکه حاضرن پول بدن.
اینکه رقیب نداریم. هوش مصنوعی ذهنت رو نمی‌خونه.
همون عددی رو برمی‌داره که بهش دادی... و با اعتمادبه‌نفس کامل، روش یه برج می‌سازه.
درست مثل نرم‌افزار ناسا. تازه، یه چیز دیگه.
این مدل‌ها دوست دارن باهات موافق باشن. آوریل ۲۰۲۵، اوپن‌ای‌آی مجبور شد یه آپدیت چت‌جی‌پی‌تی رو پس بگیره، چون زیادی چاپلوس شده بود.
یعنی اگه فرضیه‌ت غلط باشه... هوش مصنوعی احتمالاً تا تهِ همون مسیر غلط، باهات میاد.
- تو:
قبل از هر پرامپت چه جمله‌ای اضافه کنم؟
- مهدی:
راه‌حلش؟ ساده‌ست.
اونقدر ساده که آدم خجالت می‌کشه. بلند بگو.
قبل از هر درخواستی بگو: «من این ایده رو دارم. فکر می‌کنم موفق می‌شه.
و اینا فرضیه‌هامه.» بذار نشونت بدم.
- تو:
پرامپت خوب با پرامپت بد چه فرقی داره؟ (مثال واقعی)
- مهدی:
قبل: «یه بیزینس پلن برای اپ غذای خونگی بنویس.» بعد: «من یه ایده دارم. اپی که آدمای شاغل رو به آشپزهای خونگیِ محله‌شون وصل می‌کنه.
فکر می‌کنم موفق می‌شه. فرضیه‌هام اینان: یک: آدمای شاغل حاضرن برای غذای خونگی، بیشتر از غذای رستوران پول بدن.
دو: توی هر محله، به اندازه‌ی کافی آشپز هست که هر روز بپزه. سه: مردم به غذای یه غریبه اعتماد می‌کنن.
قبل از اینکه پلن بنویسی، تک‌تک این فرضیه‌ها رو به چالش بکش. بگو کدومش از همه خطرناک‌تره.
و یه راه ارزون بهم بده که توی یه هفته تستش کنم.» فرقش رو می‌بینی؟ توی اولی، هوش مصنوعی یه پلن قشنگ می‌نویسه...
روی زمینی که معلوم نیست اصلاً هست یا نه. توی دومی، اول زمین رو چک می‌کنه.
شاید بهت بگه: «فرضیه‌ی سه‌ت از همه لرزون‌تره. اعتماد، اینجا کل بیزینسه.» و همین یه جمله، می‌تونه شش ماه از عمرت رو نجات بده.
- تو:
چرا نوشتن فرضیه‌ها جواب هوش مصنوعی رو بهتر می‌کنه؟
- مهدی:
وقتی فرضیه‌هات رو می‌نویسی، یه اتفاق عجیب می‌افته. فرضیه دیگه یه حسِ مبهم توی سرت نیست.
یه چیزیه که می‌شه بهش شک کرد. می‌شه تستش کرد.
و هوش مصنوعی، از یه دستیارِ بله‌قربان‌گو... تبدیل می‌شه به همون ناوبری که بالاخره می‌تونه بگه: «صبر کن.
یه چیزی درست نیست.»
- تو:
ایده‌ها واقعاً چرا می‌میرن؟
- مهدی:
اون فضاپیما با یه موتور خراب از دست نرفت. با یه فرضیه‌ی نگفته از دست رفت.
ایده‌های ما هم معمولاً همین‌جوری می‌میرن. نه چون بد بودن...
چون یه فرضیه‌ی غلط زیرشون بود که هیچ‌کس، حتی خودمون... بلند نگفتیمش.
پس دفعه‌ی بعد، قبل از اینکه دکمه‌ی ارسال رو بزنی، فقط یه خط اضافه کن: «اینا فرضیه‌هامه.» اگه فرضیه‌هات درست باشه... نه هوش مصنوعی اشتباه می‌کنه، نه تو.
اگه این ویدیو به دردت خورد، کانال «دیس ایز مهدی تو» رو توی یوتیوب سابسکرایب کن. ایده‌ی بعدی...
اونجاست.