Iranian Futurist 
Iranian Futurist
Ayandeh-Negar
Welcome To Future

Tomorow is built today
در باره ما
تماس با ما
خبرهای علمی
احزاب مدرن
هنر و ادبیات
ستون آزاد
محیط زیست
حقوق بشر
اخبار روز
صفحه‌ی نخست
آرشیو
اندیشمندان آینده‌نگر
تاریخ از دیدگاه نو
انسان گلوبال
دموکراسی دیجیتال
دانش نو
اقتصاد فراصنعتی
آینده‌نگری و سیاست
تکنولوژی
از سایت‌های دیگر


هوش مصنوعی و آینده ترسناک بشر

اگر عضو یکی از شبکه‌های زیر هستید می‌توانید این مطلب را به شبکه‌ی خود ارسال کنید:
Twitter Google Yahoo Delicious بالاترین دنباله

[06 Dec 2014]   [ ]

 



 فیلم‌های بسیاری با این مضمون ساخته شده که وقتی هوش مصنوعی از انسان باهوش‌تر شود چه می‌شود

بیچاره آدم‌ها! اگر حرف دانشمندان و مهندسان و هنرمندان نگرانی که روز به روز هم بیشتر می‌شوند درست باشد، کار آدم‌ها تمام است.


حتی پروفسور استیون هاوکینگ، فیزیک‌دان سرشناس بریتانیایی، هم به جمع هشداردهندگان پیوسته. می‌گوید اگر بشر وسیله‌ای بسازد، یا نرم‌افزاری بنویسد، که واقعا هوشمند باشد، معلوم نیست چه اتفاقی بیافتد. نگران است آن روز آغاز پایان کار آدمیزاد باشد.


یکی دو ماه پیش الون ماسک، رئیس شرکت تسلا، هم حرف‌های مشابهی زده بود. گفته بود هوش مصنوعی افسارگسیخته "بزرگ‌ترین تهدید" برای موجودیت بشر است. گفته بود نگران است عاقبت همه‌ ما له شدن زیر پاشنه موجوداتی حساب‌گر و بی‌عاطفه باشد، موجوداتی با هوش مصنوعی.


یک مورد دیگر پروفسور نیک بوستروم، استاد دانشگاه آکسفورد، است. او هم گفته ممکن است در عرض یک قرن موجوداتی با هوش مصنوعی دنیای‌ ما را به آخر برسانند.


یا نمونه دیگر، ری کورزوایل، مدیر مهندسی گوگل است. او هم نگران هوش مصنوعی است، هرچند به دلایلی پیچیده‌تر. او می‌گوید: "نوشتن الگوریتمی به‌عنوان الگوی اخلاقی که آن‌قدر محکم باشد که نرم‌افزارهای فوق-هوشمند را مقید و مهار کند، کار آسانی نیست."


این دغدغه در سال‌های اخیر دست‌مایه فیلم‌های بسیاری هم بوده. فیلم‌هایی مثل ترمیناتور، ماتریکس، یا بلید رانر که در همه‌ آنها انسان ضعیف در برابر دشمنی هولناک با هوش مصنوعی قرار می‌گیرد.


استیون هاوکینگ هم نسبت به ساخت وسیله ای که واقعا هوشمند باشد هشدار داده

از نمونه‌های جدیدتر می‌توان فیلم "او" اثر اسپایک جونز را نام برد، که رابطه عاشقانه انسان و سیستم عامل را به تصویر می‌کشد. یا اثر در دست تهیه الکس گارلند به نام "اکس ماشینا"، که به وجه انسانی یک ربات یا آندروید می‌پردازد. یا فیلم جدید از سری "انتقام‌جویان"، که در آن قهرمانان داستان با "اولتران" می‌جنگند – موجودی با هوش مصنوعی فوق‌العاده که می‌خواهد بشر را نابود کند و حتما این کار را می‌کرد اگر قهرمان‌هایی مثل "تور"، "مرد آهنی" و دیگران نبودند.


حتی در عالم واقع، همین امروز هم نشانه‌هایی می‌توان دید که هوش انسان در برابر کامپیوتری که همه توانش را روی یک مسئله مشخص می گذارد، چقدر حقیر است. برنامه‌های شطرنج کامپیوتری از بهترین شطرنج‌بازان جهان که بگذریم بقیه انسان‌ها را به سادگی می‌برند. حتی یک وسیله ابتدایی مثل موبایلی که در جیب‌تان است محاسبات پیچیده‌ را در یک چشم‌بر هم‌زدن انجام می‌دهد.


یک ابرکامپیوتر ساخت آی.بی.ام به نام "واتسون" با بهترین‌های یک مسابقه تلویزیونی آمریکایی به نام "خطر" بازی کرد و همه را برد. مثال‌هایی از این دست بسیارند. مثال‌هایی که کامپیوترها برای مسئله‌هایی در حوزه‌های مختلف راه‌حل‌های جدید و خلاقانه پیدا می‌کنند، راه‌حل‌هایی که هرگز به عقل ما آدم‌ها نرسیده بودند.


شکی نیست که ماشین‌ها آرام‌آرام هوشمندتر می‌شوند و کارهایی که آدم‌ها در آن بهتر باشند روز به روز کمتر می‌شود.


مرگ با هواپیمای بی‌سرنشین


چارلز استراس، نویسنده داستان‌های علمی-تخیلی، می‌گوید هوش مصنوعی به این خاطر خطرناک است که اهداف آدم‌ها را تقویت و منعکس می‌کند

اما این خطر چقدر جدی‌ است؟ روزی که بشر اولین برنامه کامپیوتری "حقیقتا" هوشمند را بنویسد، برنامه‌ای که خودش بتواند نسخه‌ای هوشمندتر از خودش تولید کند، آیا چنان روزی می‌توان گفت کار انسان تمام است؟


نیل جیکوبستین، مدیر بخش هوش مصنوعی و رباتیک دانشگاه سینگولاریتی در کالیفرنیا، می‌گوید ممکن است. می‌گوید: "به نظرم رسیدن به دستاوردهای اخلاقی از هوش مصنوعی کار آسانی نیست."


به اعتقاد او اگر از همین حالا تلاش کنیم می‌توانیم جلوی ظهور هوش مصنوعی افسارگسیخته را بگیریم. می‌گوید باید به پیامدهای کارمان وقتی چیز تازه‌ای خلق می‌کنیم بیاندیشیم، و جوامع‌ و نهادهایشان را برای تغییرات فراگیری که ممکن است پیش بیاید آماده کنیم.


به زبان خودش "بهتر است این کارها را پیش از آن‌که این فن‌آوری‌ها تکمیل شوند بکنیم. قدر مسلم نه هوش مصنوعی نه رباتیک هنوز به مرحله نهایی و تکمیل نرسیده‌اند. در کل اگر به این‌که کار کجا ممکن است خراب شود فکر نکنیم، احتمال این‌که کار خراب شود بیشتر می‌شود. من معتقدم این امکان را داریم که با جدیت به این پیش‌آمدهای منفی احتمالی فکر کنیم و تا جایی که می‌توانیم برایشان لایه‌های کنترلی بیشتر و فکرشده‌تر طراحی کنیم."


تصویری که فیلم"او" از آینده هوش مصنوعی ارایه می‌کند مثل فیلم‌های دیگر ترسناک نیست

آن‌طور که ماری شاناهان، استاد رباتیک ادراکی در امپریال کالج لندن، می‌گوید، کسانی که در زمینه هوش مصنوعی کار می‌کنند، هنوز به جایی نرسیده‌اند که بخواهند برای جلوگیری از لگام‌گسیختگی ساخته‌هایشان سیستم‌های امنیتی تعبیه کنند.


او می‌گوید: "جامعه متخصصان هوش مصنوعی آن‌قدرها نگران نیست. به نظر می‌رسد مردم بیشتر نگرانند. شاید جای درست جایی وسط این دو باشد. در این لحظه قطعا جای نگرانی نیست. فکر نمی‌کنم در ۱۰-۲۰ سال آینده هم به هوش مصنوعی در سطح هوش انسان برسیم. با این حال شاید بد نباشد محققان حوزه هوش مصنوعی کم‌کم به مسائلی که استیون هاوکینگ و دیگران طرح کرده‌اند، فکر کنند."


پروفسور شاناهان معتقد است بزرگ‌ترین مانع برای ساختن ماشین‌های حقیقتا هوشمند هنوز به‌ قوت خود باقی است – این‌که هوش ماشینی را چطور ایجاد کنیم. می‌گوید: "هنوز واقعا نمی‌دانیم بهترین راه چیست. طبیعت را کپی کنیم، یا همه‌چیز را از اول شروع کنیم."


آخرین فیلم "ماجراجویان" سال ۲۰۱۵ اکران می‌شود و ماجرای ربات شروری‌ست به نام "اولتران" که می‌خواهد بشر را نابود کند

چارلز استراس، نویسنده داستان‌های علمی-تخیلی، بر این باور است که در ذات سیستم‌های با هوش مصنوعی خطری نهفته، اما این خطر صرفا به خاطر این‌که ماشین از ما بهتر فکر می‌کند، یا ناگهان می‌فهمد می‌تواند به‌جای دستور گرفتن از انسان دنبال دل خودش برود، به حقیقت نمی‌پیوندد.


آقای استراس می‌گوید: "هیچ‌کس ماشین هوشمندی که خودش هدفش را تعیین کند نمی‌خواهد، چون چنین ماشینی قاعدتا تصمیم می‌گیرد به جای این‌که کاری را که ما فکر می‌کنیم خوب است انجام دهد، مثل آدم‌ها با یک ظرف چیپس و کنترل تلویزیون در دست روی مبل ولو بشود."


اگر به کارهایی که در حال حاضر در حوزه هوش مصنوعی انجام می‌شود نگاه کنیم، می‌بینیم بیشترش روی سیستم‌هایی متمرکز است که به‌طور مشخص آن خودآگاهی و اختیاری را که می‌تواند برای ما آدم‌ها مشکل‌آفرین شود، ندارند.


آقای استراس معتقد است هوش مصنوعی – چه امروز، چه در آینده – می‌تواند خطرناک باشد. اما به‌خاطر آدم‌هایی که هدایتش می‌کنند.


اومی‌گوید: "از نگاه من بزرگ‌ترین خطر هوش مصنوعی برای ما از ناحیه آن (موجود) خودآگاهی‌ست که اهدافش را تعیین می‌کند."


این نویسنده داستان های علمی تخلیی اضافه می‌کند: "هواپیمای بی‌سرنشین آدم نمی‌کشد. آن آدمی که فرمان می‌دهد به نقطه فلان برو و فلان موشک را شلیک کن آدم می‌کشد. قصد و نیت آدم‌ها را باید به پرسش گرفت. همین حالا هم می‌شود گفت به دوران پسا-هوش مصنوعی قدم گذاشته‌ایم. با این حال هنوز نپذیرفته‌ایم که هوش مصنوعی در واقع جایگزینی برای خود ماست – ابزاری که تندتر و دقیق‌تر فکر می‌کند، اما نه ضرورتا خیرخواهانه‌تر."


مطلب‌های دیگر از همین نویسنده در سایت آینده‌نگری:


منبع:


بنیاد آینده‌نگری ایران



دوشنبه ۱۲ آذر ۱۴۰۳ -  ۲ دسامبر ۲۰۲۴

خبرهای علمی

+ چرا باید تهدید زلزله در تهران را جدی گرفت؟ فرهاد یگانه

+ مدلي براي عناصرتوليد كنندۀ انديشه درمغز Kurzweil

+ ذهن آگاهی چیست؟ فرامرز کوثری

+ یافته هایی عجیب درباره سوخت و ساز بدن مترجم : مهدی پیرگزی

+ هوشمندانه ورزش کنید مترجم: ندا اظهری

+ فناوری چگونه مغز ما را تغییر می دهد؟ مترجم: مهدی پیرگزی

+ علمی به نام «کار تیمی» مترجم: مهدی پیرگزی

+ قرن مهندسی ژنتیک 

+ انواع دنیاهای موازی 

+ ورود به دنیاهای موازی 

+ نگاهی علمی به ذهن انسان حمیدرضا مازندرانی

+ پایانی با شکوه کاسینی و درس هایی برای ساکنان شهری دور پوریا ناظمی

+ چه کسی انرژی را درمان می‌کند؟ هرمز پوررستمی

+ پژوهشگران برای اولین بار مغز انسان را به اینترنت متصل کردند حمیدرضا تائبی

+ هوش مصنوعی ده سال زودتر از بروز نشانه‌ها، آلزایمر را تشخیص می‌دهد حمیدرضا تائبی

+ افزایش توانایی ذهن با نرمش مغزی 

+ تاریکی جهان یا تاریکی خرد پوریا ناظمی

+ رابطه بین هوش افراد و طول عمر آنها چگونه است؟ 

+ میرزاخانی: خوش‌شانس بودم و در زمان درستی به دنیا آمدم حمیدرضا تائبی

+ چرا خوشحالی مانع خلاقیت می‌شود؟ مهسا قنبری

+ سری شبکه عصبی: انواع شبکه عصبی 1 

+ سلول‌های بنیادی به کمک درمان ناباروری می‌آیند 

+ آیا جسدی که به روش سرمازیستی منجمد شده است دوباره به زندگی بازخواهد گشت؟ 

+ آیا انسان به حداکثر طول عمر خود رسیده است؟ 

+ چرا بچه‌ها تلویزیون را بیشتر از کتاب دوست دارند؟ روح‌الله کریمی

+ ملاحظات فنی چالش ساخت کیسه‌ آفرزیس برای جداسازی سلول‌ها 

+ انقلابی که اتفاق نیفتاد! دکتر شیرزاد کلهری

+ حافظه‌های مصنوعی؛ رویـای واقعـی حمیدرضا تائبی

+ چرا افراد باهوش از چند وظیفه‌گی اجتناب می‌کنند؟ مهسا قنبری

+ اظهارنظر جنجالی ایلان ماسک: رابط مغز و کامپیوتر ضامن بقای انسان‌ها حمیدرضا تائبی

+ افسردگی اختلال ذهنی نیست؛ راه‌کار مغز برای حل مشکل است! حمید نیک‌روش

+ کامپیوتر کشف کرد انسان‌ها چگونه چهره‌ها را تشخیص می‌دهند حمیدرضا تائبی

+ محاسبات مقاوتی: برمبنای مغز انسان 

+ نور، این «ذره – موج» پُر از زیبایی و راز همنشین بهار

+ بهره‎برداری از هوش‎اجتماعی نیروی‎کار آینده به کمک فناوری  مترجم: فریبا ولیزاده

+ بازگشت از آن دنیا محمدرضا تجلی

+ شبيه‌سازي مغز در 2015. 

+ کاربرد فناوری اطلاعات در پزشکی 

+ DNA روش آینده ذخیره اطلاعات خواهد بود؟ 

+ چرا علم با بحران مشروعیت و بی‌اعتمادی روبرو است؟ 

+ علم رهایی بخش 

+ مغز و اسرار آن (جهش غول‌آسای بعدی علم – بخش نخست) پوریا ناظمی

+ چرا سفر به مریخ مهم است؟ پوریا ناظمی

+ آشکارشدن امواج جاذبه؛ لحظه‌ای مهّم در تاریخ علم  همنشین بهار

+ ذهن زیبا یا متوهم ؟ فاطمه سیارپور

+ پیش به سوي یک استراتژي دموکراتیکی براي علم ویلیام کري

+ در آینده ای نزدیک دندان ها با شیشه ترمیم می شوند 

+ کبدچرب؛ بیماری آینده 

+ توربینی که پرواز می‌کند و چند برابر توربین‌های زمینی برق تولید می‌کند. 

+ خودرو‌هایی که با هم حرف می‌زنند جواد عسگری

+ شیوه‌های نوین درمان آسیب‌های مغزی 

+ کم‌آبی؛ هشداری برای 14 کشور خاورمیانه فرناز حیدری

+ چرا مخالف شبيه سازي انساني هستم؟ جرمي ريفکين

+ تبدیل بافت سرطانی به بافت سالم در آزمایشگاه bbc

+ دانشمندان در آزمایشگاه یک مغر انسان پرورش دادند 

+ طول عمر انسان محدودیت ندارد 

+ ويتامين‌هاي کاهش و افزايش وزن 

+ ناسا از کشف شبیه‌ترین سیاره به زمین خبر داد 

+ مغزهای متصل شده موش ها، کامپیوتر ارگانیک تولید می کند رضا مولوی

+ چگونه هوش هیجانی (EQ) خود را از 6 راه افزایش دهیم ؟  شیما عنایت فرد

+ ترکیب اپتوژنتیک و MRI برای مطالعه بیماری‌های مغزی 

+ دیدن با زبان امکانپذیر شد 

+ دستم را بفشار تا بگویم چقدر زنده می‌مانی بی بی سی

+ ناسا: رسیدن به سرعتی بیش از سرعت نور هنوز در حد رویا است بی بی سی

+ پیوند قلب مُرده به انسان برای اولین بار در جهان 

+ تاثیر درآمد والدین بر آناتومی مغزی کودکان 

+ چشم مصنوعی مجهز به وای – فای ساخته شد 

+ قدرتمندترین خودروی تمام برقی جهان ساخته شد 

+ کشف ارتباط سریع فکر کردن با عملکرد نوعی ژن 

+ استفاده از سفیده‌ تخم مرغ در فرآیند تولید نانوذرات 

+ نخستین قدم برای دستیابی به شهر هوشمند 

+ ساخت نوعی نانودارو برای درمان عفونت باکتریایی مقاوم به آنتی بیوتیک‌ها 

+ «بهبود وضعیت اخلاقی مرهون خرد و دانش است و نه فقط ادیان»  کامبیز توانا

+ تصویربرداری فوق پیشرفته از میکروب‌ها و ذرات نانو با دستاورد ساخت داخل 

+ کشف راز مهمترین ژن استخوان ساز توسط محقق ایرانی دانشگاه آلاباما 

+ کاشت حافظه مصنوعی در مغز برای به یاد آوردن خاطرات 

+ زمین آن‌قدرها هم به ماه وابسته نیست  Space

+ رمزگشایی از اسرارآمیزترین ذرات بنیادی حامد الطافی مهربانی

+ پیش‌بینی زمان مرگ با کاهش قدرت بویایی 

+ برنامه‌های سوئیس برای توسعه دیپلماسی علم (۳) 

+ شروع به کار نیروگاه تولید برق از انرژی امواج دریا 

+ مصرف شکر را به «پنج تا ده درصد» رژیم غذایی روزانه کاهش دهید 

+ آیا نظریه «بیگ‌بنگ» به چالش گرفته شده است؟ بکتاش خمسه پور

+ پروفسور سرکار آرانی : “چرا” شروع یادگیری است 

+ روزنامه نگار ی علم پوریا ناظمی

+ ویژگی های فلسفی هوش مصنوعی چیست؟  

+ پیش بینی فناوری ها و رویدادهای علمی آینده  تحریریه‌ی بیگ بنگ

+ جهانی برخاسته از هیچ! میچیو کاکو

+ یادگیری چگونه رخ می دهد؟ 

+ هوش مصنوعی و آینده ترسناک بشر 

+ ۱۱ دلیلی که شیر دیگر یک غذای جادویی نیست  نسیبه خانلرزاده

+ چگونه به ناممکن ها دست پیدا کنیم؟  

+ اختراعات تصادفی که جهان را تغییر داد جواد ارشادی

+ این درد می تواند از علایم افسردگی باشد 

+ خالکوبی هپاتیت می آورد؟ 

+ چگونه به وسیله اینترنت تحقیق کنیم؟  ربابه نصیرزاده

+ طراحی دیش‌هایی برای تولید برق، آب پاکیزه و تهویه مطبوع از خورشید 

+ ۱۴۸ فناوری و راهکار برای مدیریت بحران کم‌آبی 

+ شیمی درمانی تا ۲۰ سال دیگر منسوخ می‌شود 

+ برقراری اولین ارتباط تله‌پاتی مغز به مغز در جهان 



info.ayandeh@gmail.com
©ayandeh.com 1995