توجه: دلیل اینکه تکمیل این پست سه هفته طول کشید، این است که وقتی در مورد هوش مصنوعی تحقیق می‌کردم، نمی‌توانستم آنچه را که می‌خواندم باور کنم. به‌سرعت به این نتیجه رسیدم که آنچه در دنیای هوش مصنوعی اتفاق می‌افتد، نه تنها یک موضوع مهم، بلکه مهم‌ترین موضوع برای آینده ما است. بنابراین می‌خواستم تا جایی که می‌توانم در مورد آن یاد بگیرم و وقتی این کار را انجام دادم، می‌خواستم مطمئن شوم که پستی که می‌نویسم این وضعیت و اهمیت آن را توضیح دهد. چندان جای تعجب نیست که حاصل کار این مطلب طولانی شد، بنابراین آن را به دو بخش تقسیم کردم. این بخش اول است—بخش دوم اینجا (مترجم: به زودی ترجمه‌ش می‌کنم) است.
ما در آستانه تغییری هستیم که قابل مقایسه با پیدایش زندگی انسان بر روی زمین است. — ورنور وینج
ایستادن در اینجا (اشاره به نقل قول بالا) چه حسی دارد؟
به نظر می‌رسد که اینجا، مکان پرتنشی برای ایستاد باشد—اما باید چیزی را در مورد ایستادن روی یک نمودار زمانی به خاطر بسپارید: نمی‌توانید آنچه را که در پیش روی‌تان است ببینید. پس درواقع حس ایستادن در همچین جایی، مثل نمودار پایینه:
که احتمالاً حس بسیار عادی‌ای دارد…
آینده دور—به‌زودی در راه است
تصور کنید که با یک ماشین زمان به سال ۱۷۵۰ بازگردید—زمانی که دنیا همیشه در خاموشی کامل بود، ارتباطات راه دور به معنای یا با صدای بلند فریاد زدن یا شلیک یک توپ در هوا بود، و همه‌ی حمل و نقل‌ها با استفاده از کاه انجام می‌شد. (توضیح مترجم: غذای اصلی اسب و خر کاهه دیگه) وقتی به آن زمان می‌روید، یک نفر را برمی‌دارید و او را به سال ۲۰۱۵ می‌آورید و سپس اطراف را به اون نشان می‌دهید و واکنش‌هایش به همه چیز را تماشا می‌کنید. برای او غیرممکن است که درک کنیم دیدن کپسول‌های براق که در بزرگراه‌ها با سرعت می‌گذرند، صحبت کردن با افرادی که اوایل همان روز در آن‌سوی اقیانوس بودند، تماشای مسابقات ورزشی که در ۱۰۰۰ مایلی در حال برگزاری هستند، شنیدن یک اجرای موسیقی که ۵۰ سال پیش انجام شده است، و بازی با مستطیل جادویی من که می‌تواند تصویر واقعی را ضبط کند یا لحظه زنده‌ای را ثبت کند، نقشه‌ای با نقطه آبی متحرک و ماوراء طبیعی تولید کند که به او نشان دهد کجا است، به صورت کسی نگاه کند و با او صحبت کند حتی اگر در آن‌سوی کشور باشد، و دنیاهای دیگری از جادوهای غیرقابل تصور، برای او چه حسی خواهد داشت. اینها همه قبل از آن است که به او اینترنت یا چیزهایی مانند ایستگاه فضایی بین‌المللی، برخورددهنده هادرونی بزرگ، سلاح‌های هسته‌ای، یا نسبیت عام را نشان دهید یا توضیح دهید.
این تجربه برای او نه شگفت‌انگیز خواهد بود، نه شوک‌آور و حتی نه حیرت‌انگیز—این کلمات به اندازه کافی بزرگ نیستند. او ممکن است واقعاً بمیرد.
اما نکته جالب اینجاست—اگر او سپس به سال ۱۷۵۰ برگردد و حسادت کند که ما واکنش او را دیده‌ایم و تصمیم بگیرد که او هم بخواهد همین کار را امتحان کند، او ماشین زمان را برداشته و به همان فاصله زمانی بازگردد، کسی را از حدود سال ۱۵۰۰ بیاورد، او را به ۱۷۵۰ بیاورد و همه چیز را به او نشان دهد. و شخص سال ۱۵۰۰ از بسیاری چیزها شگفت‌زده خواهد شد—اما نمی‌میرد. برای او این تجربه بسیار کمتر دیوانه‌وار خواهد بود، زیرا در حالی که سال‌های ۱۵۰۰ و ۱۷۵۰ بسیار متفاوت بودند، اما این تفاوت‌ها خیلی کمتر از تفاوت‌های بین سال ۱۷۵۰ تا ۲۰۱۵ بودند. شخص سال ۱۵۰۰ چیزهای ذهن خم‌کننده‌ای درباره فضا و فیزیک یاد خواهد گرفت، تحت تأثیر تعهد اروپا به آن مد جدید امپریالیسم قرار خواهد گرفت، و باید تجدید نظرهای عمده‌ای در تصور نقشه جهانی خود انجام دهد. اما دیدن زندگی روزمره در سال ۱۷۵۰—حمل و نقل، ارتباطات و غیره—قطعا او را نخواهد کشت.
نه، برای اینکه مرد سال ۱۷۵۰ به اندازه ما از این تجربه لذت ببرد، او باید خیلی بیشتر به عقب برگردد—شاید تا حدود ۱۲۰۰۰ سال قبل از میلاد، پیش از اینکه اولین انقلاب کشاورزی منجر به پیدایش اولین شهرها و مفهوم تمدن شود. اگر کسی از دنیای کاملاً شکارچی-گردآورنده—از زمانی که انسان‌ها، کم و بیش، فقط یک گونه جانوری دیگر بودند—امپراتوری‌های وسیع انسانی سال ۱۷۵۰ با کلیساهای بلند، کشتی‌های اقیانوس‌پیمای‌شان، مفهوم “درون” بودن، و کوه عظیم دانش و اکتشافات جمعی و انباشته شده انسانی را می‌دید—احتمالاً می‌مرد.
و بعد اگر، پس از مرگ، حسود شود و بخواهد همین کار را انجام دهد، اگر او ۱۲۰۰۰ سال به عقب برگردد به ۲۴۰۰۰ سال قبل از میلاد و کسی را بیاورد و به ۱۲۰۰۰ سال قبل از میلاد بیاورد، همه چیز را به او نشان دهد و آن شخص بگوید، “خُب که چی، چه اهمیتی دارد.” برای اینکه شخص ۱۲۰۰۰ سال قبل از میلاد همان لذت را ببرد، باید بیش از ۱۰۰۰۰۰ سال به عقب برگردد و کسی را بیاورد که بتواند برای اولین بار آتش و زبان را به او نشان دهد.
برای اینکه کسی به آینده منتقل شود و از شدت شوکی که تجربه می‌کند بمیرد، باید به اندازه‌ای به جلو برود که یک “سطح پیشرفت مرگبار” یا یک واحد پیشرفت مرگ (DPU) به دست آمده باشد. بنابراین، در زمان‌های شکارچی-گردآورنده، یک DPU بیش از ۱۰۰۰۰۰ سال طول می‌کشید، اما با نرخ پس از انقلاب کشاورزی، تنها حدود ۱۲۰۰۰ سال طول کشید. جهان پس از انقلاب صنعتی آنقدر سریع پیشرفت کرده که یک نفر از سال ۱۷۵۰ فقط نیاز دارد چند صد سال به جلو برود تا یک DPU اتفاق بیفتد.
این الگو—پیشرفت انسانی که با گذشت زمان سریعتر و سریعتر می‌شود—چیزی است که آینده‌پژوه ری کرزویل آن را “قانون بازده‌های شتابان” در تاریخ بشریت می‌نامد. این اتفاق می‌افتد زیرا جوامع پیشرفته‌تر توانایی پیشرفت با نرخ سریع‌تری نسبت به جوامع کمتر پیشرفته دارند—زیرا پیشرفته‌تر هستند. انسانیت قرن نوزدهم بیشتر می‌دانست و فناوری بهتری نسبت به انسانیت قرن پانزدهم داشت، بنابراین جای تعجب نیست که انسانیت در قرن نوزدهم پیشرفت‌های بیشتری نسبت به قرن پانزدهم کرد—انسانیت قرن پانزدهم در مقابل انسانیت قرن نوزدهم هیچ حرفی برای گفتن نداشت.
این در مقیاس‌های کوچکتر هم کار می‌کند. فیلم “بازگشت به آینده” در سال ۱۹۸۵ منتشر شد و “گذشته” در سال ۱۹۵۵ اتفاق افتاد. در فیلم، زمانی که مایکل جی. فاکس به سال ۱۹۵۵ بازگشت، از تازگی تلویزیون‌ها، قیمت‌های نوشابه، نبود علاقه به گیتار الکتریک تیز و تفاوت در اصطلاحات عامیانه غافلگیر شد. بله، دنیای متفاوتی بود – اما اگر فیلم امروز ساخته می‌شد و گذشته در سال ۱۹۸۵ قرار می‌گرفت، فیلم می‌توانست با تفاوت‌های بسیار بزرگتری بیشتر سرگرم شود. شخصیت فیلم در زمانی قبل از رایانه‌های شخصی، اینترنت یا تلفن‌های همراه قرار می‌گرفت – مارتی مک‌فلای امروزی، نوجوانی که در اواخر دهه ۹۰ میلادی به دنیا آمده، بسیار بیشتر از مارتی مک‌فلای فیلم در سال ۱۹۵۵ در سال ۱۹۸۵ غریبه و ناآشنا به نظر می‌رسید.
این به همان دلیلی است که همین الان بحث کردیم – قانون بازده‌های شتابان. نرخ متوسط پیشرفت بین سال‌های ۱۹۸۵ و ۲۰۱۵ بالاتر از نرخ بین سال‌های ۱۹۵۵ و ۱۹۸۵ بود – زیرا دنیای پیشرفته‌تری بود – بنابراین در ۳۰ سال اخیر تغییرات بسیار بیشتری نسبت به ۳۰ سال قبل از آن رخ داده است.
بنابراین – پیشرفت‌ها بزرگتر و بزرگتر می‌شوند و سریعتر و سریعتر رخ می‌دهند. این موضوع درباره آینده ما نکات بسیار مهم و شدیدی را نشان می‌دهد، درست است؟
کرزوایل پیشنهاد می‌کند که پیشرفت کل قرن بیستم در سال ۲۰۰۰ با نرخ پیشرفت آن سال تنها در ۲۰ سال به دست می‌آمد – به عبارت دیگر، تا سال ۲۰۰۰، نرخ پیشرفت پنج برابر سریعتر از نرخ متوسط پیشرفت در طول قرن بیستم بود. او معتقد است که معادل پیشرفت یک قرن بیستم دیگر بین سال‌های ۲۰۰۰ تا ۲۰۱۴ رخ داده است و تا سال ۲۰۲۱، معادل یک قرن بیستم دیگر پیشرفت خواهد کرد، در تنها هفت سال. چند دهه بعد، او باور دارد که معادل پیشرفت یک قرن بیستم چندین بار در یک سال و حتی بعدتر، در کمتر از یک ماه اتفاق خواهد افتاد. به طور کلی، به دلیل قانون بازده‌های شتابان، کرزوایل معتقد است که قرن بیست و یکم ۱,۰۰۰ برابر پیشرفت قرن بیستم را به دست خواهد آورد.
اگر کرزوایل و دیگرانی که با او موافق هستند درست بگویند، ممکن است تا سال ۲۰۳۰ همان‌قدر شگفت‌زده شویم که فردی از سال ۱۷۵۰ از سال ۲۰۱۵ شگفت‌زده می‌شد – یعنی پیشرفت بعدی ممکن است تنها چند دهه طول بکشد – و جهان در سال ۲۰۵۰ ممکن است آنقدر با دنیای امروز متفاوت باشد که به سختی آن را بشناسیم.
این علمی-تخیلی نیست. این چیزی است که بسیاری از دانشمندان باهوش‌تر و آگاه‌تر از من و شما به‌طور قطع باور دارند – و اگر به تاریخ نگاه کنید، این چیزی است که باید منطقی پیش‌بینی کنیم.
پس چرا وقتی می‌شنوید که می‌گویم “جهان ۳۵ سال بعد ممکن است کاملاً غیرقابل شناسایی باشد”، فکر می‌کنید، “جالب است… اما نهههههه”؟ سه دلیل که ما نسبت به پیش‌بینی‌های عجیب و غریب آینده مشکوک هستیم:
۱) وقتی به تاریخ نگاه می‌کنیم، خطی فکر می‌کنیم. وقتی پیشرفت ۳۰ سال آینده را تصور می‌کنیم، به پیشرفت ۳۰ سال گذشته نگاه می‌کنیم تا ببینیم چه مقدار احتمالاً رخ خواهد داد. وقتی به میزان تغییرات دنیا در قرن ۲۱ فکر می‌کنیم، پیشرفت‌های قرن ۲۰ را می‌گیریم و به سال ۲۰۰۰ اضافه می‌کنیم. این همان اشتباهی است که فردی از سال ۱۷۵۰ مرتکب شد وقتی که کسی را از سال ۱۵۰۰ آورد و انتظار داشت به اندازه‌ای که خودش از فاصله مشابه پیش رو شگفت‌زده شده بود، او را شگفت‌زده کند. برای ما منطقی‌ترین حالت این است که خطی فکر کنیم، در حالی که باید به صورت نمایی فکر کنیم. اگر کسی هوشمندتر باشد، ممکن است پیشرفت‌های ۳۰ سال آینده را نه با نگاه کردن به ۳۰ سال گذشته، بلکه با در نظر گرفتن نرخ کنونی پیشرفت و قضاوت بر اساس آن پیش‌بینی کند. او دقیق‌تر خواهد بود، اما باز هم کاملاً درست نخواهد بود. برای اینکه به درستی درباره آینده فکر کنیم، باید تصور کنیم که چیزها با سرعتی بسیار بیشتر از حال حاضر در حال حرکت هستند.
مسیر تاریخ بسیار اخیر اغلب داستانی تحریف‌شده را روایت می‌کند. اول، حتی یک منحنی نمایی تند وقتی فقط یک بخش کوچک از آن را مشاهده کنید، خطی به نظر می‌رسد، همانطور که اگر به یک بخش کوچک از یک دایره بزرگ از نزدیک نگاه کنید، تقریباً شبیه یک خط مستقیم به نظر می‌رسد. دوم، رشد نمایی کاملاً هموار و یکنواخت نیست. کرزویل توضیح می‌دهد که پیشرفت در “منحنی‌های S” اتفاق می‌افتد.
یک منحنی S توسط موج پیشرفت زمانی ایجاد می‌شود که یک پارادایم جدید جهان را فرا می‌گیرد. این منحنی از سه مرحله عبور می‌کند:
- رشد کند (مرحله ابتدایی رشد نمایی)
- رشد سریع (مرحله پایانی و انفجاری رشد نمایی)
- متعادل شدن وقتی که پارادایم خاص به بلوغ می‌رسد
اگر فقط به تاریخ بسیار اخیر نگاه کنید، بخشی از منحنی S که در لحظه فعلی روی آن قرار دارید، می‌تواند درک شما از سرعت پیشرفت‌ها را مخدوش کند. بازه زمانی بین سال‌های ۱۹۹۵ تا ۲۰۰۷ شاهد انفجار اینترنت، معرفی مایکروسافت، گوگل و فیس‌بوک به آگاهی عمومی، تولد شبکه‌های اجتماعی و معرفی تلفن‌های همراه و سپس تلفن‌های هوشمند بود. این مرحله ۲ بود: قسمت رشد سریع منحنی S. اما سال‌های ۲۰۰۸ تا ۲۰۱۵ از لحاظ تکنولوژیکی کمتر انقلابی بودند. کسی که امروز به آینده فکر می‌کند ممکن است به چند سال اخیر نگاه کند تا نرخ فعلی پیشرفت را بسنجد، اما این دیدگاه تصویر بزرگتر را از دست می‌دهد. در واقع، ممکن است همین حالا یک رشد سریع فاز ۲ جدید و بزرگ در حال شکل‌گیری باشد.
۳) تجربه‌ی شخصی ما باعث می‌شود نسبت به آینده لجوج و محافظه‌کار شویم. ما ایده‌های خود درباره‌ی جهان را بر اساس تجربه‌ی شخصی‌مان پایه‌گذاری می‌کنیم و آن تجربه، نرخ رشد گذشته‌ی اخیر را به عنوان “روش وقوع امور” در ذهنمان نقش می‌بندد. همچنین، تخیل ما نیز محدود است؛ تخیل ما تجربه‌های ما را می‌گیرد و از آنها برای پیش‌بینی‌های آینده استفاده می‌کند، اما اغلب، آنچه می‌دانیم ابزارهای لازم برای فکر کردن دقیق درباره‌ی آینده را به ما نمی‌دهد. وقتی پیش‌بینی‌ای درباره‌ی آینده می‌شنویم که با تصور مبتنی بر تجربه‌ی ما از چگونگی کارکرد چیزها تناقض دارد، واکنش غریزی ما این است که آن پیش‌بینی باید ساده‌لوحانه باشد. اگر من به شما بگویم که ممکن است ۱۵۰، یا ۲۵۰ سال عمر کنید، یا اصلاً نمیرید، واکنش غریزی شما این خواهد بود: “این احمقانه است – اگر یک چیز از تاریخ یاد گرفته‌ام این است که همه می‌میرند.” و بله، هیچ‌کس در گذشته نمرده است. اما هیچ‌کس هم پیش از اختراع هواپیما، هواپیما پرواز نمی‌کرد.
در حالی که “نهههه” ممکن است در هنگام خواندن این پست صحیح به نظر برسد، احتمالاً واقعاً اشتباه است. واقعیت این است که اگر منطقی باشیم و انتظار داشته باشیم الگوهای تاریخی ادامه یابند، باید نتیجه بگیریم که در دهه‌های آینده، تغییرات بسیار، بسیار، بسیار بیشتری نسبت به آنچه به طور شهودی انتظار داریم، رخ خواهد داد. منطق همچنین نشان می‌دهد که اگر پیشرفته‌ترین گونه در یک سیاره به پیشرفت‌های بزرگتر و بزرگتر با سرعت فزاینده ادامه دهد، در نهایت جهشی به قدری بزرگ خواهد کرد که زندگی را به طور کامل تغییر می‌دهد و درک آنها از معنای انسان بودن را دگرگون می‌کند—شبیه به اینکه چگونه تکامل به سمت هوش پیشرفت کرد تا اینکه در نهایت به جهشی بزرگ به سوی انسان منجر شد که معنای زندگی برای هر موجودی در زمین را به کلی تغییر داد. و اگر کمی وقت بگذارید و درباره اتفاقات کنونی در علم و فناوری مطالعه کنید، بسیاری از نشانه‌ها را خواهید دید که به آرامی اشاره می‌کنند که زندگی به شکل کنونی خود نمی‌تواند جهش بعدی را تحمل کند.
راه رسیدن به ابرهوش مصنوعی
هوش مصنوعی چیست؟
اگر مثل من باشید، احتمالاً قبلاً فکر می‌کردید هوش مصنوعی یک مفهوم علمی-تخیلی خنده‌دار است، اما اخیراً از افراد جدی درباره آن می‌شنوید و واقعاً متوجه آن نمی‌شوید.
سه دلیل وجود دارد که بسیاری از افراد در مورد اصطلاح هوش مصنوعی دچار سردرگمی می‌شوند:
۱) ما هوش مصنوعی را با فیلم‌ها مرتبط می‌کنیم. جنگ ستارگان، ترمیناتور، ۲۰۰۱: یک ادیسه فضایی، حتی جتسون‌ها. و اینها داستانی هستند، همانطور که شخصیت‌های ربات هم داستانی هستند. بنابراین هوش مصنوعی برای ما کمی تخیلی به نظر می‌رسد.
۲) هوش مصنوعی یک موضوع گسترده است. از ماشین‌حساب گوشی شما تا خودروهای خودران تا چیزی در آینده که ممکن است به طور چشمگیری جهان را تغییر دهد، همگی تحت عنوان هوش مصنوعی قرار می‌گیرند که این باعث سردرگمی می‌شود.
۳) ما در زندگی روزمره خود به طور مداوم از هوش مصنوعی استفاده می‌کنیم، اما اغلب متوجه نمی‌شویم که آن هوش مصنوعی است. جان مک‌کارتی، که اصطلاح “هوش مصنوعی” را در سال ۱۹۵۶ ابداع کرد، شکایت داشت که “به محض اینکه چیزی کار می‌کند، دیگر کسی آن را هوش مصنوعی نمی‌نامد.” به همین دلیل، هوش مصنوعی اغلب بیشتر شبیه یک پیش‌بینی افسانه‌ای از آینده به نظر می‌رسد تا یک واقعیت. در عین حال، این موضوع باعث می‌شود که هوش مصنوعی شبیه به یک مفهوم عامه‌پسند از گذشته به نظر برسد که هرگز به ثمر نرسیده است. ری کرزویل می‌گوید که شنیده است مردم می‌گویند هوش مصنوعی در دهه ۱۹۸۰ از بین رفته است، که او آن را با “اصرار بر این که اینترنت در بحران دات-کام اوایل دهه ۲۰۰۰ مرده است” مقایسه می‌کند.
پس بیایید موضوع را روشن کنیم. اول از همه، فکر کردن به ربات‌ها را متوقف کنید. ربات یک محفظه برای هوش مصنوعی است، گاهی اوقات شبیه به فرم انسانی و گاهی نه—اما خود هوش مصنوعی، کامپیوتر داخل ربات است. هوش مصنوعی مغز است و ربات بدن آن است—اگر اصلاً بدنی داشته باشد. برای مثال، نرم‌افزار و داده‌های پشت سیری هوش مصنوعی است، صدای زنی که می‌شنویم تجسمی از آن هوش مصنوعی است و هیچ رباتی در کار نیست.
دوم، احتمالاً اصطلاح “تکینگی” یا “تکینگی فناوری” را شنیده‌اید. این اصطلاح در ریاضیات برای توصیف یک وضعیت شبه‌اسمپتوتیک استفاده شده است که در آن قوانین معمول دیگر اعمال نمی‌شوند. در فیزیک نیز برای توصیف پدیده‌هایی مانند یک سیاه‌چاله بی‌نهایت کوچک و چگال یا نقطه‌ای که همه چیز قبل از بیگ بنگ در آن فشرده شده بود، استفاده شده است. باز هم، وضعیت‌هایی که قوانین معمول اعمال نمی‌شوند. در سال ۱۹۹۳، ورنور وینج مقاله‌ای معروف نوشت که در آن این اصطلاح را به لحظه‌ای در آینده اطلاق کرد که هوش فناوری ما از هوش خودمان پیشی می‌گیرد—لحظه‌ای که برای او زندگی به شکلی که ما می‌شناسیم برای همیشه تغییر خواهد کرد و قوانین معمول دیگر اعمال نخواهند شد. سپس ری کرزویل با تعریف تکینگی به عنوان زمانی که قانون بازده‌های شتاب‌دهنده به چنان سرعت افراطی رسیده است که پیشرفت فناوری با سرعتی به ظاهر بی‌نهایت اتفاق می‌افتد، و بعد از آن ما در دنیایی کاملاً جدید زندگی خواهیم کرد، موضوع را کمی گیج‌کننده‌تر کرد. متوجه شدم که بسیاری از متفکران امروزی هوش مصنوعی از استفاده از این اصطلاح دست کشیده‌اند و در هر صورت این اصطلاح گیج‌کننده است، بنابراین من زیاد از آن استفاده نخواهم کرد (حتی اگر در طول بحث بر روی آن ایده تمرکز کنیم).
در نهایت، با وجود انواع مختلف یا اشکال مختلف هوش مصنوعی، از آنجا که هوش مصنوعی یک مفهوم گسترده است، دسته‌بندی‌های مهمی که باید به آنها فکر کنیم بر اساس سطح هوش مصنوعی هستند. سه دسته اصلی سطح هوش مصنوعی وجود دارند:
سطح هوش مصنوعی ۱) هوش مصنوعی محدود (ANI): که گاهی به عنوان هوش مصنوعی ضعیف نیز شناخته می‌شود، هوش مصنوعی محدود به هوش مصنوعی‌ای گفته می‌شود که در یک زمینه خاص تخصص دارد. به عنوان مثال، هوش مصنوعی‌ای وجود دارد که می‌تواند قهرمان جهان در شطرنج را شکست دهد، اما این تنها کاری است که می‌تواند انجام دهد. اگر از آن بخواهید راه بهتری برای ذخیره داده‌ها در یک هارد درایو پیدا کند، با چهره‌ای خالی به شما نگاه خواهد کرد.
سطح هوش مصنوعی ۲) هوش مصنوعی عمومی (AGI): که گاهی به عنوان هوش مصنوعی قوی یا هوش مصنوعی در سطح انسانی شناخته می‌شود، هوش مصنوعی عمومی به کامپیوتری اشاره دارد که به اندازه یک انسان هوشمند است و می‌تواند هر کار فکری‌ای که یک انسان قادر به انجام آن است را انجام دهد. ایجاد AGI بسیار سخت‌تر از ایجاد ANI است و ما هنوز موفق به انجام آن نشده‌ایم. پروفسور لیندا گوتفرِدسِن هوش را به عنوان “توانایی ذهنی بسیار کلی که از جمله شامل توانایی استدلال، برنامه‌ریزی، حل مسائل، تفکر انتزاعی، درک ایده‌های پیچیده، یادگیری سریع و یادگیری از تجربه” توصیف می‌کند. AGI می‌تواند همه این کارها را به همان راحتی که شما می‌توانید انجام دهد.
سطح هوش مصنوعی ۳) هوش مصنوعی فراهوشمند (ASI): فیلسوف آکسفورد و متفکر برجسته هوش مصنوعی، نیک باسترام، هوش فراهوشمند را به عنوان “عقلی که در هر زمینه‌ای بسیار هوشمندتر از بهترین ذهن‌های انسانی است، از جمله خلاقیت علمی، خرد عمومی و مهارت‌های اجتماعی” تعریف می‌کند. هوش مصنوعی فراهوشمند از کامپیوتری که فقط کمی از انسان هوشمندتر است تا کامپیوتری که تریلیون‌ها بار هوشمندتر است را شامل می‌شود. ASI دلیل اصلی این است که موضوع هوش مصنوعی تا این حد جذاب است و چرا کلماتی مانند “جاودانگی” و “انقراض” بارها در این مطالب ظاهر خواهند شد.
در حال حاضر، انسان‌ها در بسیاری از زمینه‌ها هوش مصنوعی ضعیف یا محدود (ANI) را تسخیر کرده‌اند و در همه جا وجود دارد. انقلاب هوش مصنوعی، مسیری است از ANI، از طریق هوش مصنوعی عمومی (AGI)، تا هوش مصنوعی فوق‌العاده (ASI) – مسیری که ممکن است ما آن را بگذرانیم یا نگذرانیم، اما در هر صورت، همه چیز را تغییر خواهد داد.
بیایید نگاهی دقیق به نظرات اندیشمندان پیشرو در این زمینه بیندازیم و ببینیم که این مسیر چگونه به نظر می‌رسد و چرا این انقلاب ممکن است خیلی زودتر از آنچه فکر می‌کنید اتفاق بیفتد:
جایی که اکنون هستیم – جهانی که بر پایه هوش مصنوعی ضعیف (ANI) کار می‌کند
هوش مصنوعی ضعیف (ANI) هوش ماشینی است که برابر یا برتر از هوش یا کارایی انسان در یک موضوع خاص است. چند نمونه:
خودروها مملو از سیستم‌های هوش مصنوعی ضعیف (ANI) هستند، از کامپیوتری که زمان فعال شدن ترمز ضد قفل را تعیین می‌کند تا کامپیوتری که پارامترهای سیستم تزریق سوخت را تنظیم می‌کند. خودروی خودران گوگل، که در حال حاضر در حال آزمایش است، شامل سیستم‌های قوی ANI خواهد بود که به آن امکان می‌دهد جهان اطراف خود را درک کرده و به آن واکنش نشان دهد.
تلفن همراه شما یک کارخانه کوچک هوش مصنوعی ضعیف (ANI) است. وقتی از اپلیکیشن نقشه برای مسیریابی استفاده می‌کنید، توصیه‌های موسیقی سفارشی از پاندورا دریافت می‌کنید، وضعیت آب و هوای فردا را بررسی می‌کنید، با سیری صحبت می‌کنید، یا ده‌ها فعالیت روزمره دیگر را انجام می‌دهید، از ANI استفاده می‌کنید.
فیلتر هرزنامه ایمیل شما یک نوع کلاسیک از ANI است – که از همان ابتدا با اطلاعاتی درباره‌ی چگونگی تشخیص هرزنامه بارگذاری شده و سپس با کسب تجربه و شناخت ترجیحات خاص شما، هوش خود را بهبود می‌بخشد. ترموستات Nest نیز همین کار را انجام می‌دهد، به طوری که شروع به شناسایی روال معمول شما کرده و بر اساس آن عمل می‌کند.
می‌دانید که وقتی یک محصول را در آمازون جستجو می‌کنید و سپس آن محصول را به عنوان “پیشنهاد شده برای شما” در یک سایت دیگر می‌بینید یا وقتی فیس‌بوک به نحوی می‌داند که چه کسی را به عنوان دوست اضافه کنید، چقدر ترسناک است؟ این یک شبکه از سیستم‌های ANI است که با هم کار می‌کنند تا یکدیگر را درباره‌ی اینکه شما کی هستید و چه چیزهایی را دوست دارید آگاه کنند و سپس از آن اطلاعات برای تصمیم‌گیری درباره‌ی آنچه که به شما نشان داده می‌شود استفاده کنند. همین موضوع در مورد “افرادی که این را خریدند همچنین خریدند…” در آمازون صدق می‌کند – این یک سیستم ANI است که وظیفه‌اش جمع‌آوری اطلاعات از رفتار میلیون‌ها مشتری و ترکیب آن اطلاعات برای فروختن هوشمندانه بیشتر به شما است.
گوگل ترنسلیت نیز یک سیستم کلاسیک ANI است که به طرز چشمگیری در انجام یک وظیفه‌ی محدود خوب عمل می‌کند. تشخیص صدا هم یکی دیگر از این نوع سیستم‌هاست و تعدادی اپلیکیشن وجود دارند که از این دو ANI به صورت تیمی استفاده می‌کنند، به طوری که شما می‌توانید جمله‌ای را به یک زبان بگویید و گوشی آن جمله را به زبان دیگری ارائه دهد.
وقتی هواپیمای شما فرود می‌آید، این یک انسان نیست که تصمیم می‌گیرد هواپیما به کدام گیت برود. همانطور که انسان نیست که قیمت بلیط شما را تعیین کرده است.
بهترین بازیکنان چکرز، شطرنج، اسکرابل، تخته نرد و اتللو در جهان اکنون همگی سیستم‌های ANI هستند.
جستجوی گوگل یک مغز بزرگ ANI با روش‌های بسیار پیشرفته برای رتبه‌بندی صفحات و تعیین اینکه چه چیزی به خصوص به شما نشان دهد است. همین موضوع در مورد بخش خبرهای فیس‌بوک نیز صدق می‌کند.
و اینها فقط در دنیای مصرف‌کننده هستند. سیستم‌های پیشرفته ANI به طور گسترده‌ای در بخش‌ها و صنایع مختلف مانند نظامی، تولید و مالی (معامله‌گران الگوریتمی با فرکانس بالا بیش از نیمی از سهام معامله شده در بازارهای سهام ایالات متحده را تشکیل می‌دهند) و در سیستم‌های خبرهای که به پزشکان در تشخیص کمک می‌کنند و معروف‌ترین آنها، واتسون آی‌بی‌ام که دارای اطلاعات کافی بود و زبان محاوره‌ای ترابک را به اندازه‌ای خوب می‌فهمید که توانست به خوبی بر قهرمانان پرآوازه Jeopardy غلبه کند، استفاده می‌شوند.
سیستم‌های ANI در حال حاضر به ویژه ترسناک نیستند. در بدترین حالت، یک سیستم ANI نقص‌دار یا بد برنامه‌ریزی شده می‌تواند باعث یک فاجعه‌ی جداگانه شود، مانند خاموش کردن یک شبکه برق، ایجاد نقص در نیروگاه هسته‌ای یا ایجاد فاجعه در بازارهای مالی (مانند سقوط سریع ۲۰۱۰ زمانی که یک برنامه ANI به اشتباه به یک وضعیت غیرمنتظره واکنش نشان داد و باعث شد بازار سهام به طور موقت سقوط کند و ۱ تریلیون دلار از ارزش بازار را از بین ببرد که تنها بخشی از آن با تصحیح اشتباه بازیابی شد).
اما در حالی که ANI توانایی ایجاد تهدید وجودی را ندارد، باید این اکوسیستم روزافزون و پیچیده از ANIهای نسبتاً بی‌خطر را به عنوان پیش‌درآمد طوفان جهانی تغییر دهنده‌ای که در راه است ببینیم. هر نوآوری جدید ANI به آرامی یک آجر دیگر بر روی جاده‌ای به سوی AGI و ASI اضافه می‌کند. یا به گفته آرون سائنز، سیستم‌های ANI دنیای ما “مانند اسیدهای آمینه در لجن ابتدایی زمین اولیه” هستند – مواد بی‌جان حیات که روزی غیرمنتظره بیدار شدند.
جاده از ANI به AGI
چرا اینقدر سخت است
هیچ چیزی به اندازه‌ی یادگیری درباره‌ی چالش‌های غیرقابل باور در تلاش برای ساختن کامپیوتری که به هوشمندی ما برسد، شما را به تحسین هوش انسانی وا نخواهد داشت. ساختن آسمان‌خراش‌ها، فرستادن انسان به فضا، و فهم جزئیات چگونگی وقوع بیگ بنگ – همه آسان‌تر از درک مغز خودمان یا ساخت چیزی به همان خنکی است. در حال حاضر، مغز انسان پیچیده‌ترین شیء در جهان شناخته شده است.
چیزی که جالب است این است که قسمت‌های سخت ساخت AGI (یک کامپیوتر که به اندازه‌ی انسان‌ها به طور کلی هوشمند باشد، نه فقط در یک تخصص خاص) به طور شهودی آن چیزی نیستند که فکر می‌کنید هستند. ساختن یک کامپیوتر که بتواند دو عدد ده رقمی را در یک لحظه ضرب کند—بسیار آسان. ساختن یکی که بتواند به یک سگ نگاه کند و پاسخ دهد که آیا آن سگ است یا گربه—به طرز شگفت‌انگیزی دشوار. ساختن هوش مصنوعی که بتواند هر انسانی را در شطرنج شکست دهد؟ انجام شد. ساختن یکی که بتواند یک پاراگراف از کتاب تصویری یک کودک شش ساله را بخواند و نه فقط کلمات را تشخیص دهد بلکه معنای آنها را درک کند؟ گوگل در حال حاضر میلیاردها دلار برای تلاش در این زمینه هزینه می‌کند. چیزهای سخت—مانند حسابان، استراتژی بازارهای مالی، و ترجمه زبان—برای یک کامپیوتر به طرز حیرت‌انگیزی آسان هستند، در حالی که چیزهای آسان—مانند بینایی، حرکت، و ادراک—برای آن بسیار دشوار هستند. یا همانطور که دانشمند کامپیوتر دونالد کنوث می‌گوید، “هوش مصنوعی تاکنون در انجام اساساً همه چیزهایی که نیاز به ‘فکر کردن’ دارند موفق بوده است، اما در انجام بیشتر چیزهایی که مردم و حیوانات ‘بدون فکر کردن’ انجام می‌دهند شکست خورده است.”
چیزی که با تفکر در این باره به سرعت متوجه می‌شوید این است که آن چیزهایی که به نظر ما آسان می‌آیند در واقع به طرز غیرقابل باوری پیچیده هستند، و فقط به این دلیل آسان به نظر می‌رسند که این مهارت‌ها در ما (و بیشتر حیوانات) توسط صدها میلیون سال تکامل حیوانی بهینه شده‌اند. هنگامی که دست خود را به سوی یک شیء بلند می‌کنید، عضلات، تاندون‌ها و استخوان‌های شانه، آرنج و مچ دست شما بلافاصله یک سری طولانی از عملیات‌های فیزیکی را به همراه چشمان شما انجام می‌دهند تا بتوانید دست خود را در یک خط مستقیم از طریق سه بعد حرکت دهید. این به نظر شما بی‌تلاش می‌آید زیرا نرم‌افزاری در مغز شما برای انجام این کار به کمال رسیده است. همین ایده در مورد این که چرا بدافزار نتواند تست تشخیص کلمه‌ی خمیده را هنگام ثبت‌نام در یک سایت انجام دهد، صدق می‌کند—اینکه مغز شما برای توانایی انجام این کار فوق‌العاده چشمگیر است.
از سوی دیگر، ضرب اعداد بزرگ یا بازی شطرنج فعالیت‌های جدیدی برای موجودات زیستی هستند و ما هیچ زمانی برای تکامل در این مهارت‌ها نداشته‌ایم، بنابراین یک کامپیوتر نیازی به کار زیاد برای شکست ما ندارد. فکر کنید—ترجیح می‌دهید کدام کار را انجام دهید، ساختن برنامه‌ای که بتواند اعداد بزرگ را ضرب کند یا برنامه‌ای که بتواند جوهره‌ی یک حرف ب را به اندازه کافی درک کند که بتوانید آن را در هر یک از هزاران فونت یا دست‌خط غیرقابل پیش‌بینی نشان دهید و فوراً تشخیص دهد که آن یک حرف ب است؟
یک مثال جالب—وقتی به این نگاه می‌کنید، شما و یک کامپیوتر هر دو می‌توانید بفهمید که این یک مستطیل با دو سایه‌ی متفاوت است که به طور متناوب تغییر می‌کنند:
تا اینجا مساوی هستیم. اما اگر قسمت سیاه را بردارید و کل تصویر را نمایان کنید…
…شما به راحتی می‌توانید یک توصیف کامل از استوانه‌های مات و شفاف، تخته‌ها و گوشه‌های سه‌بعدی بدهید، اما کامپیوتر به شدت شکست می‌خورد. کامپیوتر آنچه را که می‌بیند توصیف می‌کند—مجموعه‌ای از اشکال دوبعدی در چندین سایه مختلف—که در واقع همان چیزی است که وجود دارد. مغز شما در حال انجام کارهای فوق‌العاده‌ای است تا عمق ضمنی، ترکیب سایه‌ها و نورپردازی اتاق را که تصویر سعی در نشان دادن آن دارد، تفسیر کند. و با نگاه کردن به تصویر زیر، یک کامپیوتر یک کولاژ دوبعدی سفید، سیاه و خاکستری می‌بیند، در حالی که شما به راحتی می‌فهمید که این واقعاً چیست—عکسی از یک سنگ سه‌بعدی کاملاً سیاه:
و هر چیزی که تا به حال ذکر کردیم، هنوز تنها شامل دریافت اطلاعات ثابت و پردازش آن است. برای اینکه به سطح هوش انسانی برسیم، یک کامپیوتر باید چیزهایی مانند تفاوت بین حالت‌های ظریف صورت، تمایز بین خوشحال، آسوده، راضی، خشنود و شاد بودن، و دلیل اینکه چرا فیلم Braveheart عالی بود ولی The Patriot بد بود را درک کند.
دلهره‌آور.
پس چطور به آنجا می‌رسیم؟
اولین کلید برای ایجاد هوش مصنوعی عمومی: افزایش قدرت محاسباتی
یک نکته‌ای که قطعاً برای تحقق هوش مصنوعی عمومی باید رخ دهد، افزایش قدرت سخت‌افزار کامپیوتر است. اگر یک سیستم هوش مصنوعی بخواهد به اندازه مغز انسان هوشمند باشد، باید به توان محاسباتی خام مغز برسد.
یک راه برای بیان این ظرفیت، تعداد کل محاسبات در هر ثانیه (cps) است که مغز می‌تواند مدیریت کند، و شما می‌توانید این عدد را با محاسبه حداکثر cps هر ساختار در مغز و سپس جمع کردن همه آنها به دست آورید.
ری کرتزویل یک میانبر ارائه کرد، به این صورت که برآورد حرفه‌ای برای cps یک ساختار را گرفته و وزن آن ساختار را نسبت به وزن کل مغز مقایسه کرده و سپس به طور متناسب ضرب کرده تا یک تخمین کلی به دست آید. به نظر کمی مشکوک می‌رسد، اما او این کار را چندین بار با برآوردهای حرفه‌ای مناطق مختلف انجام داد و جمع کل همیشه در همان حدود بود – حدود ۱۰۱۶۱۰^{۱۶}۱۰۱۶، یا ۱۰ کوادریلیون cps.
در حال حاضر، سریع‌ترین ابررایانه جهان، تیانه-۲ چین، در واقع از آن عدد پیشی گرفته و حدود ۳۴ کوادریلیون cps دارد. اما تیانه-۲ همچنین بسیار بزرگ است، ۷۲۰ متر مربع فضا اشغال می‌کند، ۲۴ مگاوات برق مصرف می‌کند (در حالی که مغز فقط با ۲۰ وات کار می‌کند) و ۳۹۰ میلیون دلار هزینه ساخت آن است. این سیستم هنوز به طور گسترده قابل استفاده نیست و حتی برای بیشتر استفاده‌های تجاری یا صنعتی مناسب نیست.
کرتزویل پیشنهاد می‌دهد که ما به وضعیت کامپیوترها با توجه به تعداد cps که می‌توان با ۱,۰۰۰ دلار خرید، فکر کنیم. وقتی این عدد به سطح انسانی – ۱۰ کوادریلیون cps – برسد، این به این معناست که هوش مصنوعی عمومی می‌تواند بخشی واقعی از زندگی شود.
قانون مور یک قاعده تاریخی قابل اعتماد است که حداکثر قدرت محاسباتی جهان تقریباً هر دو سال یک بار دو برابر می‌شود، به این معنی که پیشرفت سخت‌افزار کامپیوتر، مانند پیشرفت کلی انسانی در طول تاریخ، به صورت نمایی رشد می‌کند. با نگاهی به اینکه این قانون چگونه به معیار cps/۱,۰۰۰ دلار کرتزویل مرتبط است، ما در حال حاضر حدود ۱۰ تریلیون cps/۱,۰۰۰ دلار داریم، که با مسیر پیش‌بینی شده این نمودار کاملاً مطابقت دارد.
بنابراین، کامپیوترهای ۱,۰۰۰ دلاری جهان اکنون از مغز موش جلوتر هستند و حدود یک هزارم سطح انسانی هستند. این شاید زیاد به نظر نرسد تا زمانی که به یاد بیاورید که ما در سال ۱۹۸۵ حدود یک تریلیونیم سطح انسانی بودیم، در سال ۱۹۹۵ یک میلیاردیم و در سال ۲۰۰۵ یک میلیونیوم. رسیدن به یک هزارم در سال ۲۰۱۵ نشان می‌دهد که ما در مسیر درستی قرار داریم تا تا سال ۲۰۲۵ به یک کامپیوتر مقرون به صرفه برسیم که قدرتی برابر با مغز انسان دارد.
بنابراین از نظر سخت‌افزار، قدرت خام مورد نیاز برای AGI هم‌اکنون به طور فنی در چین در دسترس است، و ما ظرف ۱۰ سال آماده خواهیم بود که سخت‌افزار در سطح AGI را به طور گسترده و مقرون‌به‌صرفه فراهم کنیم. اما قدرت محاسباتی خام به تنهایی یک کامپیوتر را به طور کلی هوشمند نمی‌کند—سؤال بعدی این است که چگونه هوش در سطح انسانی را به تمام آن قدرت بیاوریم؟
کلید دوم برای ایجاد AGI: هوشمند کردن آن
این بخش ناخوشایند است. حقیقت این است که هیچ‌کس واقعاً نمی‌داند چگونه باید آن را هوشمند کرد—ما هنوز در حال بحث هستیم که چگونه یک کامپیوتر را در سطح هوش انسانی بسازیم و قادر به تشخیص سگ، حرف ب عجیب‌غریب و یک فیلم متوسط باشد. اما تعداد زیادی استراتژی دور از ذهن وجود دارد و در نهایت یکی از آنها کار خواهد کرد. در اینجا سه استراتژی رایج که با آنها برخورد کرده‌ام آورده شده است:
۱) تقلید از مغز.
این مثل این است که دانشمندان در تلاشند بفهمند چطور آن بچه‌ای که کنارشان در کلاس می‌نشیند اینقدر باهوش است و همیشه در امتحانات خوب عمل می‌کند، و با وجود اینکه خودشان با دقت درس می‌خوانند، نمی‌توانند به خوبی آن بچه عمل کنند، و در نهایت تصمیم می‌گیرند “لعنت بهش، فقط از جواب‌های آن بچه کپی می‌کنم.” منطقی است—ما در تلاش برای ساختن یک کامپیوتر فوق‌العاده پیچیده گیج شده‌ایم، و اتفاقاً در هر یک از سرهای ما یک نمونه‌ی کامل از آن وجود دارد.
دنیای علم به سختی در حال معکوس‌سازی مهندسی مغز است تا بفهمد چگونه تکامل چنین چیز فوق‌العاده‌ای را ساخته است—برآوردهای خوش‌بینانه می‌گویند که ما می‌توانیم این کار را تا سال ۲۰۳۰ انجام دهیم. هنگامی که این کار را انجام دهیم، تمام رازهای عملکرد قدرتمند و کارآمد مغز را خواهیم دانست و می‌توانیم از آن الهام بگیریم و نوآوری‌های آن را بدزدیم. یک مثال از معماری کامپیوتری که مغز را تقلید می‌کند، شبکه عصبی مصنوعی است. این شبکه به صورت یک شبکه از “نورون‌های” ترانزیستوری شروع می‌شود که با ورودی‌ها و خروجی‌ها به هم متصل شده‌اند و هیچ چیز نمی‌داند—مانند مغز یک نوزاد. روش “یادگیری” آن به این صورت است که سعی می‌کند یک کار را انجام دهد، مثلاً تشخیص دست‌خط، و در ابتدا شلیک‌های عصبی و حدس‌های بعدی آن برای رمزگشایی هر حرف کاملاً تصادفی خواهد بود. اما وقتی به آن گفته می‌شود که چیزی را درست تشخیص داده، اتصالات ترانزیستوری در مسیرهای شلیک که به طور تصادفی آن پاسخ را ایجاد کرده‌اند تقویت می‌شوند؛ وقتی به آن گفته می‌شود که اشتباه کرده، اتصالات آن مسیرها ضعیف می‌شوند. پس از مقدار زیادی از این آزمون و بازخورد، شبکه به تنهایی مسیرهای عصبی هوشمندی را تشکیل داده و ماشین برای انجام آن کار بهینه شده است. مغز به روشی شبیه به این یاد می‌گیرد اما به شکل پیچیده‌تری، و همانطور که ما به مطالعه مغز ادامه می‌دهیم، راه‌های جدید و نبوغ‌آمیزی برای استفاده از مدارهای عصبی کشف می‌کنیم.
تقلید شدیدتر شامل یک استراتژی به نام “شبیه‌سازی کل مغز” است، که هدف آن برش دادن یک مغز واقعی به لایه‌های نازک، اسکن هر یک از آنها، استفاده از نرم‌افزار برای ساختن یک مدل سه‌بعدی دقیق و سپس پیاده‌سازی مدل بر روی یک کامپیوتر قدرتمند است. سپس ما یک کامپیوتر خواهیم داشت که رسماً قادر به انجام تمام کارهایی است که مغز قادر به انجام آنهاست—فقط نیاز به یادگیری و جمع‌آوری اطلاعات خواهد داشت. اگر مهندسان خیلی خوب عمل کنند، می‌توانند یک مغز واقعی را با دقتی بسیار بالا شبیه‌سازی کنند به طوری که تمام شخصیت و حافظه مغز پس از آپلود شدن ساختار مغزی به کامپیوتر، دست‌نخورده باقی بماند. اگر مغز متعلق به جیم درست قبل از مرگش باشد، کامپیوتر اکنون به عنوان جیم بیدار خواهد شد، که یک AGI در سطح انسانی قوی خواهد بود، و ما اکنون می‌توانیم روی تبدیل جیم به یک ASI با هوشی غیرقابل تصور کار کنیم، که احتمالاً او واقعاً از آن هیجان‌زده خواهد شد.
چقدر تا دستیابی به شبیه‌سازی کل مغز فاصله داریم؟ خوب، تا کنون، ما به تازگی توانسته‌ایم مغز یک کرم تخت به طول ۱ میلی‌متر را شبیه‌سازی کنیم، که فقط از ۳۰۲ نورون تشکیل شده است. مغز انسان دارای ۱۰۰ میلیارد نورون است. اگر این به نظر یک پروژه ناامیدکننده بیاید، قدرت پیشرفت نمایی را به خاطر بیاورید—حال که مغز کرم کوچک را تسخیر کرده‌ایم، ممکن است به زودی به مغز یک مورچه دست یابیم، سپس یک موش، و ناگهان این کار بسیار قابل انجام‌تر به نظر خواهد رسید.
۲) تلاش کنید تا تکامل همان کاری را که قبلاً انجام داده است، این بار برای ما انجام دهد.
بنابراین اگر تصمیم بگیریم که آزمون آن بچه باهوش برای کپی کردن خیلی سخت است، می‌توانیم سعی کنیم روش او برای مطالعه برای آزمون‌ها را کپی کنیم.
در اینجا چیزی است که ما می‌دانیم. ساختن کامپیوتری به قدرت مغز امکان‌پذیر است – تکامل مغز خود ما اثبات این موضوع است. و اگر مغز بیش از حد پیچیده باشد که نتوانیم آن را شبیه‌سازی کنیم، می‌توانیم سعی کنیم تکامل را شبیه‌سازی کنیم. حقیقت این است که حتی اگر بتوانیم مغز را شبیه‌سازی کنیم، این ممکن است مانند تلاش برای ساخت هواپیما با تقلید از حرکات بال زدن پرنده باشد – اغلب، ماشین‌ها با یک رویکرد تازه و مبتنی بر ماشین، بهتر طراحی می‌شوند، نه با تقلید دقیق از زیست‌شناسی.
پس چگونه می‌توانیم تکامل را برای ساخت هوش عمومی مصنوعی شبیه‌سازی کنیم؟ روشی به نام “الگوریتم‌های ژنتیکی” وجود دارد که به این صورت عمل می‌کند: یک فرایند ارزیابی و عملکرد وجود دارد که بارها و بارها تکرار می‌شود (همانطور که موجودات زنده با زندگی کردن “عملکرد” نشان می‌دهند و بر اساس اینکه آیا می‌توانند تولید مثل کنند یا نه، “ارزیابی” می‌شوند). گروهی از کامپیوترها تلاش می‌کنند کارهایی را انجام دهند و موفق‌ترین آنها با هم ترکیب می‌شوند و نیمی از برنامه‌نویسی هر یک با یکدیگر ترکیب شده و یک کامپیوتر جدید ایجاد می‌شود. کامپیوترهای کمتر موفق حذف می‌شوند. طی بسیاری از تکرارها، این فرایند انتخاب طبیعی کامپیوترهای بهتر و بهتری تولید می‌کند. چالش در ایجاد یک چرخه ارزیابی و تولید مثل خودکار است تا این فرایند تکامل به‌طور خودکار اجرا شود.
جنبه منفی تقلید از تکامل این است که تکامل معمولاً دوست دارد برای انجام کارها یک میلیارد سال وقت بگذارد، در حالی که ما می‌خواهیم این کار را در چند دهه انجام دهیم.
اما ما نسبت به تکامل مزایای زیادی داریم. اول اینکه، تکامل هیچ دوراندیشی ندارد و به صورت تصادفی عمل می‌کند—بیشتر جهش‌های غیرمفید تولید می‌کند تا جهش‌های مفید، اما ما می‌توانیم فرایند را کنترل کنیم تا فقط با اختلالات سودمند و تغییرات هدفمند هدایت شود. دوم اینکه، تکامل به هیچ چیز، از جمله هوش، هدف نمی‌گیرد—گاهی اوقات محیط ممکن است حتی علیه هوش بالاتر انتخاب کند (زیرا انرژی زیادی مصرف می‌کند). از سوی دیگر، ما می‌توانیم به طور خاص این فرایند تکاملی را به سمت افزایش هوش هدایت کنیم. سوم اینکه، برای انتخاب هوش، تکامل باید به چندین روش دیگر نیز نوآوری کند تا هوش را تسهیل کند—مانند بازسازی روش‌های تولید انرژی توسط سلول‌ها—در حالی که ما می‌توانیم آن بارهای اضافی را حذف کنیم و از چیزهایی مانند برق استفاده کنیم. بدون شک ما بسیار، بسیار سریعتر از تکامل خواهیم بود—اما هنوز مشخص نیست که آیا می‌توانیم به اندازه کافی از تکامل پیشرفت کنیم تا این روش را به یک استراتژی قابل قبول تبدیل کنیم یا نه.
۳) کل این مسئله را به مشکل کامپیوتر تبدیل کنید، نه مشکل ما.
این زمانی است که دانشمندان ناامید می‌شوند و سعی می‌کنند برنامه‌ای بنویسند که آزمون را خودش انجام دهد. اما ممکن است این روش امیدبخش‌ترین روشی باشد که داریم.
ایده این است که ما کامپیوتری بسازیم که دو مهارت اصلی آن تحقیق در زمینه هوش مصنوعی و کدگذاری تغییرات در خودش باشد—این امکان را به آن می‌دهد که نه تنها یاد بگیرد بلکه معماری خودش را نیز بهبود بخشد. ما کامپیوترها را به عنوان دانشمندان کامپیوتر آموزش می‌دهیم تا بتوانند توسعه خودشان را آغاز کنند. و این شغل اصلی آنها خواهد بود—فهمیدن چگونگی هوشمندتر کردن خودشان. در مورد این موضوع بعداً بیشتر صحبت خواهیم کرد.
همه اینها می‌تواند به زودی اتفاق بیفتد.
پیشرفت‌های سریع در سخت‌افزار و آزمایش‌های نوآورانه با نرم‌افزار به طور همزمان در حال وقوع هستند، و هوش مصنوعی عمومی ممکن است به سرعت و غیرمنتظره به سراغ ما بیاید به دو دلیل اصلی:
۱) رشد نمایی بسیار شدید است و آنچه که به نظر می‌رسد پیشرفتی آهسته مانند حرکت یک حلزون باشد، می‌تواند به سرعت شتاب بگیرد—این GIF به خوبی این مفهوم را نشان می‌دهد:
وقتی صحبت از نرم‌افزار می‌شود، پیشرفت ممکن است کند به نظر برسد، اما سپس یک شهود می‌تواند بلافاصله نرخ پیشرفت را تغییر دهد (مثل زمانی که انسان‌ها فکر می‌کردند جهان زمین‌مرکزی است و در محاسبه‌ی چگونگی کارکرد جهان مشکل داشتند، اما کشف اینکه جهان خورشیدمرکزی است ناگهان همه چیز را آسان‌تر کرد). یا وقتی صحبت از چیزی مانند یک کامپیوتر است که خودش را بهبود می‌بخشد، ممکن است به نظر برسد که فاصله زیادی داریم، اما در واقع با یک تغییر کوچک در سیستم، می‌توانیم آن را هزار برابر مؤثرتر کنیم و به سرعت به سطح هوش انسانی برسیم.
راه از AGI به ASI
در مقطعی، ما به AGI دست خواهیم یافت — کامپیوترهایی با هوش عمومی در سطح انسان. فقط یک گروه از مردم و کامپیوترها که با هم در برابری زندگی می‌کنند.
در واقع به هیچ وجه اینگونه نیست.
موضوع این است که AGI با سطح هوش و ظرفیت محاسباتی معادل با انسان همچنان مزایای قابل توجهی نسبت به انسان‌ها خواهد داشت. مثل:
سخت‌افزار:
سرعت. نورون‌های مغز حداکثر در حدود ۲۰۰ هرتز عمل می‌کنند، در حالی که ریزپردازنده‌های امروزی (که بسیار کندتر از زمانی خواهند بود که به AGI برسیم) با سرعت ۲ گیگاهرتز عمل می‌کنند، یعنی ۱۰ میلیون برابر سریعتر از نورون‌های ما. و ارتباطات داخلی مغز، که می‌توانند با سرعت حدود ۱۲۰ متر بر ثانیه حرکت کنند، در برابر توانایی کامپیوتر برای ارتباط نوری با سرعت نور به شدت ناکافی هستند.
اندازه و ذخیره‌سازی. مغز به دلیل شکل جمجمه ما در اندازه خود محدود است و نمی‌تواند خیلی بزرگتر شود، زیرا ارتباطات داخلی با سرعت ۱۲۰ متر بر ثانیه برای انتقال از یک بخش مغز به بخش دیگر خیلی طول می‌کشد. کامپیوترها می‌توانند به هر اندازه فیزیکی گسترش یابند و این اجازه را می‌دهد که سخت‌افزار بیشتری به کار گرفته شود، حافظه کاری بسیار بزرگتری (RAM) داشته باشند و حافظه بلندمدت (ذخیره‌سازی هارد دیسک) با ظرفیت و دقت بسیار بیشتری نسبت به مغز ما داشته باشند.
قابلیت اطمینان و دوام. تنها حافظه‌های کامپیوتر نیست که دقیق‌تر خواهد بود. ترانزیستورهای کامپیوتر دقیق‌تر از نورون‌های بیولوژیکی هستند و کمتر احتمال دارد که خراب شوند (و اگر خراب شوند، قابل تعمیر یا تعویض هستند). مغزهای انسانی نیز به راحتی خسته می‌شوند، در حالی که کامپیوترها می‌توانند به طور مداوم و در عملکرد اوج، ۲۴ ساعته و ۷ روز هفته کار کنند.
نرم‌افزار:
ویرایش‌پذیری، ارتقاءپذیری، و گستردگی بیشتر امکانات. برخلاف مغز انسان، نرم‌افزارهای کامپیوتری می‌توانند به‌روزرسانی‌ها و رفع اشکال‌ها را دریافت کنند و به‌راحتی مورد آزمایش قرار گیرند. ارتقاءها می‌توانند به حوزه‌هایی گسترش یابند که مغز انسان در آنها ضعیف است. نرم‌افزار بینایی انسان به طرز فوق‌العاده‌ای پیشرفته است، در حالی که قابلیت مهندسی پیچیده‌اش بسیار کم‌درجه است. کامپیوترها می‌توانند با نرم‌افزار بینایی انسان مطابقت داشته باشند اما همچنین می‌توانند در مهندسی و هر حوزه دیگری به همان اندازه بهینه شوند.
توانایی جمعی. انسان‌ها در ایجاد یک هوش جمعی گسترده، تمامی گونه‌های دیگر را شکست می‌دهند. از توسعه زبان و تشکیل جوامع بزرگ و متراکم، تا پیشرفت در اختراعات نوشتن و چاپ، و اکنون با ابزارهایی مانند اینترنت، هوش جمعی انسان یکی از دلایل اصلی پیشرفت ما نسبت به سایر گونه‌ها است. و کامپیوترها در این زمینه بسیار بهتر از ما خواهند بود. شبکه‌ای جهانی از هوش مصنوعی که یک برنامه خاص را اجرا می‌کند، می‌تواند به طور منظم با خودش همگام‌سازی شود، به طوری که هر چیزی که هر کامپیوتر یاد می‌گیرد به طور فوری به تمامی کامپیوترهای دیگر منتقل شود. این گروه همچنین می‌تواند به عنوان یک واحد به یک هدف واحد بپردازد، زیرا احتمالاً نظرات و انگیزه‌ها و منافع شخصی متضاد مانند آنچه در جمعیت انسانی داریم وجود نخواهد داشت.
هوش مصنوعی که احتمالاً با برنامه‌ریزی برای بهبود خود به AGI خواهد رسید، “هوش در سطح انسان” را به‌عنوان یک نقطه عطف مهم نخواهد دید—این تنها از دیدگاه ما یک نشانه‌ی مهم است—و هیچ دلیلی برای “توقف” در سطح ما نخواهد داشت. با توجه به مزایایی که حتی یک AGI معادل هوش انسانی نسبت به ما دارد، واضح است که این هوش مصنوعی تنها برای لحظه‌ای کوتاه به سطح هوش انسانی خواهد رسید و سپس به سرعت به قلمرو هوش برتر از انسان خواهد شتافت.
این ممکن است ما را به شدت شوکه کند زمانی که اتفاق بیفتد. دلیل آن این است که از دیدگاه ما، الف) در حالی که هوش انواع مختلف حیوانات متفاوت است، ویژگی اصلی‌ای که از هوش هر حیوانی می‌شناسیم این است که بسیار پایین‌تر از هوش ماست، و ب) ما انسان‌های باهوش‌تر را به مراتب باهوش‌تر از انسان‌های کم‌هوش‌تر می‌بینیم. کمی شبیه به این:
بنابراین، همانطور که هوش مصنوعی به سمت هوش انسانی پیش می‌رود، ما آن را به‌عنوان حیوانی که به‌طور فزاینده‌ای باهوش می‌شود می‌بینیم. سپس، وقتی به پایین‌ترین سطح ظرفیت انسانی می‌رسد—نیک بوستروم از اصطلاح “احمق دهکده” استفاده می‌کند—خواهیم گفت: “اوه، مثل یک انسان کم‌هوش است. بامزه است!” اما تنها چیزی که هست، در طیف بزرگ هوش، همه انسان‌ها، از احمق دهکده تا انیشتین، در محدوده بسیار کوچکی قرار دارند—پس دقیقاً پس از رسیدن به سطح احمق دهکده و اعلام شدن به‌عنوان AGI، ناگهان از انیشتین باهوش‌تر خواهد شد و ما نمی‌دانیم چه چیزی به ما ضربه زده است:
و بعد از آن چه اتفاقی می‌افتد؟
انفجار هوش
امیدوارم از زمان عادی لذت برده باشید، زیرا این موضوع اکنون غیرعادی و ترسناک می‌شود و از اینجا به بعد به همین شکل باقی خواهد ماند. می‌خواهم در اینجا متوقف شوم و به شما یادآوری کنم که هر چیزی که می‌خواهم بگویم واقعی است—علم واقعی و پیش‌بینی‌های واقعی از آینده توسط مجموعه‌ای بزرگ از محترم‌ترین متفکران و دانشمندان. فقط این را به یاد داشته باشید.
به هر حال، همانطور که گفتم، بیشتر مدل‌های فعلی ما برای رسیدن به AGI شامل بهبود خودِ هوش مصنوعی می‌شود. و هنگامی که به AGI برسد، حتی سیستم‌هایی که از روش‌هایی شکل گرفته و رشد کرده‌اند که بهبود خود را در بر نمی‌گرفتند، اکنون به اندازه کافی هوشمند خواهند بود تا اگر بخواهند بهبود خود را آغاز کنند.
و اینجا به یک مفهوم شدید می‌رسیم: بهبود خود بازگشتی. این‌طور کار می‌کند—
یک سیستم هوش مصنوعی در سطح خاصی—مثلاً در سطح یک آدم روستایی ساده‌دل—با هدف بهبود هوش خود برنامه‌ریزی شده است. زمانی که این کار را انجام می‌دهد، هوشمندتر می‌شود—شاید در این مرحله به سطح هوش اینشتین رسیده باشد—پس حالا وقتی که با هوش در سطح اینشتین برای بهبود هوش خود کار می‌کند، این کار را راحت‌تر انجام می‌دهد و می‌تواند جهش‌های بزرگتری انجام دهد. این جهش‌ها آن را بسیار باهوش‌تر از هر انسانی می‌سازد و به آن اجازه می‌دهد که جهش‌های بزرگتری انجام دهد. با بزرگتر شدن جهش‌ها و رخ دادن آنها به صورت سریعتر، هوش مصنوعی به سرعت در هوش پیشرفت کرده و به زودی به سطح هوش فوق‌العاده یک سیستم ASI می‌رسد. این پدیده به “انفجار هوش” معروف است و نمونه نهایی از “قانون بازده‌های شتابان” است.
بحث‌هایی درباره اینکه هوش مصنوعی چه زمانی به سطح هوش عمومی انسانی خواهد رسید وجود دارد. در یک نظرسنجی از صدها دانشمند، سال میانه‌ای که آنها معتقد بودند احتمالاً تا آن زمان به AGI (هوش عمومی مصنوعی) خواهیم رسید، سال ۲۰۴۰ بود—یعنی تنها ۲۵ سال دیگر، که شاید خیلی زیاد به نظر نرسد تا زمانی که در نظر بگیرید بسیاری از اندیشمندان این حوزه معتقدند که احتمالاً پیشرفت از AGI به ASI (هوش فوق‌العاده مصنوعی) به سرعت اتفاق می‌افتد. مثلاً—ممکن است اینگونه رخ دهد:
چندین دهه طول می‌کشد تا اولین سیستم هوش مصنوعی به هوش عمومی سطح پایین برسد، اما در نهایت این اتفاق می‌افتد. یک کامپیوتر قادر است دنیای اطراف خود را به اندازه یک کودک چهار ساله انسان درک کند. ناگهان، ظرف یک ساعت از رسیدن به این نقطه عطف، سیستم نظریه بزرگی از فیزیک که نسبیت عام و مکانیک کوانتوم را یکپارچه می‌کند، تولید می‌کند، چیزی که هیچ انسانی قادر به انجام قطعی آن نبوده است. ۹۰ دقیقه بعد از آن، هوش مصنوعی به یک ASI (هوش فوق‌العاده مصنوعی) تبدیل شده و ۱۷۰,۰۰۰ برابر باهوش‌تر از یک انسان می‌شود.
هوش فوق‌العاده در این مقیاس چیزی نیست که ما بتوانیم حتی از دور هم درک کنیم، همانطور که یک زنبور عسل نمی‌تواند اقتصاد کینزی را بفهمد. در دنیای ما، باهوش یعنی ضریب هوشی ۱۳۰ و نادان یعنی ضریب هوشی ۸۵—ما واژه‌ای برای ضریب هوشی ۱۲,۹۵۲ نداریم.
آنچه می‌دانیم این است که تسلط کامل انسان‌ها بر این زمین یک قانون واضح را نشان می‌دهد: با هوش، قدرت می‌آید. این بدان معناست که یک ASI (هوش فوق‌العاده مصنوعی)، زمانی که آن را ایجاد کنیم، قدرتمندترین موجود در تاریخ حیات روی زمین خواهد بود و تمام موجودات زنده، از جمله انسان‌ها، کاملاً در اختیار آن خواهند بود—و این ممکن است در چند دهه آینده رخ دهد.
اگر مغزهای ناچیز ما قادر به اختراع وای‌فای بودند، پس چیزی که ۱۰۰ یا ۱,۰۰۰ یا ۱ میلیارد برابر باهوش‌تر از ما باشد نباید هیچ مشکلی در کنترل موقعیت هر اتم در جهان به هر شکلی که بخواهد، در هر زمان داشته باشد—هر چیزی که ما جادو تصور می‌کنیم، هر قدرتی که برای یک خدای برتر می‌پنداریم، برای ASI به اندازه روشن کردن یک کلید برق برای ما عادی خواهد بود. ایجاد فناوری برای معکوس کردن پیری انسان، درمان بیماری‌ها و گرسنگی و حتی جاودانگی، برنامه‌ریزی مجدد آب و هوا برای حفاظت از آینده حیات روی زمین—همه ناگهان ممکن می‌شوند. همچنین ممکن است پایان فوری تمام زندگی روی زمین باشد. از نظر ما، اگر یک ASI به وجود بیاید، اکنون یک خدای قادر مطلق روی زمین است—و سوال بسیار مهم برای ما این است:
آیا این خدا مهربان خواهد بود؟
این موضوع بخش دوم این پست است.
