آیا ما آماده‌ایم که شاهد اداره جهان توسط ماشین‌های هوشمند باشیم؟
طی دهه‌های گذشته، شاهد ظهور روبات‌هایی بودیم که، چیزی بیش از بازوهای روباتیک در خطوط تولید کارخانجات نبودند و این با روبات‌های آدم نما و سخنگویی که در فیلم‌های علمی و تخیلی می‌دیدیم، تفاوت زیادی داشت.
اما ظاهراً در طی سه سال گذشته، اتفاق‌های جدیدی رخ داده است. خودروهای بدون راننده (یا خودران) میلیون‌ها کیلومتر در جاده‌های عمومی رانندگی کرده‌اند. پهپادها چنان هوشمند شده‌اند که از برخورد با اجسام خودداری می‌کنند و روبات‌های دوپایی که آزادانه قدم میزنند و حتی سخن هم میگویند ناگهان به واقعیت پیوسته‌اند.
اکنون اندیشمندان و روشن‌بینانی چون بیل گیتس، استیون هاوکینگ و الون ماسک درباره خطرات ماشین‌هایی که روز به روز هوشمندتر میشوند سخن میگویند. برای مثال، هاوکینگ در مصاحبه ای با شبکه بی بی سی عنوان کرد که “هوش مصنوعی در شکل تکامل یافته‌اش می‌تواند پایان نسل بشر را رقم بزند.”
البته به نظر می‌رسد که این هر سه متفکر، به فراخوان مکس تگمارک، استاد دانشگاه ام آی تی پاسخ داده‌اند که در سال ۲۰۱۴ مؤسسه آینده زندگی (Future of Life Institute) را بنیان نهاد. هدف این مؤسسه بررسی جنبه‌های منفی و تاریک هوش مصنوعی است.
تگمارک در مصاحبه‌ای گفت که «نسل بشر در گذشته فناوریهایی با قدرت کمتر مانند آتش را که اختراع کرد، مدت‌ها دچار دردسرهایی شد تا اینکه سرانجام ناچار به اختراع کپسول آتش نشانی شد. لیکن این بار که میخواهد فناوریهای قدرتمندتری در سطح هوش انسانی را ابداع کند، از همان ابتدا باید مسیر را درست بپیماید.»
نگرانی اینجاست که اگر هوش مصنوعی (AI) به اندازه کافی هوشمند بشود، می‌تواند نرم‌افزارهای خود را به طور مکرر، هر ساعت و هر دقیقه بهبود بخشد و به زودی چنان هوشمندتر از انسان بشود که عواقب آن فعلاً قابل تصور نیست. به گفته تگمارک «نتیجه امر می‌تواند فوق العاده خوب یا بسیار ناگوار باشد.»
در بسیاری از داستانهای آینده گرای ایزاک آسیموف، انسان‌ها، روبات‌ها را بر اساس قوانین سه گانه روباتیک برنامه‌ریزی می‌کنند. برای مثال: «یک روبات نمیتواند به انسان آسیبی برساند، یا با خودداری از فعالیت‌هایی که برای آن طراحی شده، زمینه آسیب دیدن یک انسان را فراهم کند» آیا در عمل نمیتوانیم از همین نوع تمهیدات و تضمینهای نرمافزاری استفاده کنیم؟
به گفته تگمارک «نکته طنزآمیز درباره رمان‌های آسیموف این است که همه داستانهای مربوط به قوانین سه گانه به نحوی حکایت از بروز مشکلی در یکی از همین قوانین دارند.»
برنامه‌ریزی ماشین‌ها برای اطاعت بی چون و چرا از دستورات ما، ممکن است نتایج غیر قابل پیش‌بینی به بار آورد. «برای مثال اگر به خودروی فوق هوشمند خود بگویید که شما را با حداکثر سرعت ممکن به فرودگاه برساند، حتماً این کار را خواهد کرد، لیکن شما احتمالاً با حالت تهوع و در حال تعقیب توسط هلیکوپتر پلیس به فرودگاه خواهید رسید.» و این البته خواسته دقیق شما نبوده است.
خطرات بزرگتری نیز وجود دارد. در ماه جولای، گروه تگمارک نامه سرگشاده‌ای منتشر و در آن نگرانی خود را در رابطه با تهدید فزاینده سلاح‌های خودمختار هوشمند -که رویای گروه‌های تروریستی است- ابراز کرد (استیون هاوکینگ، الون ماسک و استیو وازنیاک، یکی از بنیانگذاران شرکت اپل، نیز در میان ۲۵۰۰ نفر امضاکنندگان این نامه بوده اند). سازمان ملل نیز در حال بررسی تصویب ممنوعیتی روی سلاح‌های مبتنی بر هوش مصنوعی است.
در مقیاسی روزمره‌تر، ما انسان‌ها احتمالاً در آینده مشاغل بیشتری را به روبات‌ها واگذار خواهیم کرد. مشاغلی که مستلزم کارهای تکراری و قابل خودکارسازی باشند، مانند صندوقداری در فروشگاه، دفترداری و پیراحقوقی زودتر از دست خواهند رفت. (برخی بانک‌های ژاپنی همین امروز برای راهنمایی مشتریان از روبات استفاده می‌کنند.) به گفته تگمارک «اگر شما مربی مهدکودک یا متصدی ماساژتراپی هستید، شغلتان را مدت بیشتری نگاه خواهید داشت.» به تصور او، از دست دادن مشاغل، علاوه بر مشکلات مالی، به معنای کاهش میزان رضایت انسان‌ها از زندگی شان خواهد بود. «امروزه، ما بخش مهمی از احساس هدفمندی خود را از شغلمان کسب می‌کنیم و باید به طور جدی در مورد نوع مشاغلی که میخواهیم حفظشان کنیم و کماکان هویت خود را از طریق آنها بیابیم؛ بیندیشیم. آموزش؟ فرهنگ و هنر؟ مشاغل خدماتی؟ یا مشاغلی دیگر»
زنگ خطرهایی از این دست، الون ماسک (یکی از بنیانگذاران شرکت تسلا موتورز و مؤسس اسپیس اکس) را بر آن داشت که مبلغ ده میلیون دلار به مؤسسه آینده زندگی اهدا کند (و همراه با هاوکینگ و دیگران به عنوان مشاور علمی در این مؤسسه خدمت نماید). این گروه تاکنون صدها پیشنهاد سرمایه‌گذاری برای پژوهش دریافت و در ده‌ها مورد از آنها سرمایه‌گذاری کرده و چندین نشست بزرگ در رابطه با این مبحث برگزار نموده است.
پیام مورد نظر نهایتاً این نیست که هوش مصنوعی لزوماً ما را به پایان جهان و یا به یک زندگی خسته کننده و بیروح رهنمون خواهد کرد، بلکه این است که تأمل ما در مورد آثار و عواقب این فناوری، باید با توسعه شتابناک آن همگام گردد. تگمارک میگوید «هوش مصنوعی جنبه های مثبت فراوانی هم دارد: قابلیت درمان تمام بیماری‌ها، ریشه کن کردن فقر و کمک به گسترش حیات به اقصی نقاط کیهان؛ البته به شرط اینکه آن را به درستی دریابیم. بیایید همچون قایقی بی بادبان در پهنه این دریا شناور نشویم. بیایید نقشه راهمان را ترسیم کرده و برای آن به دقت برنامه‌ریزی کنیم.»
منبع: مجله ساینتیفیک امریکن – شماره اکتبر ۲۰۱۵
نویسنده: دیوید پوگ
مترجم: بهزاد مقصودی
از شرکت پردازش موازی سامان تولید کننده محصولات تدبیر و سیستم حسابداری مالی، اداری، بازرگانی و حسابداری صنعتی