جهان باید راهی برای کنترل هوش مصنوعی پیدا کند

به گزارش خبرگزاری صداوسیما به نقل از فاکس بیزینس، جفری هینتون، که اخیرا از سمت خود به عنوان معاون مهندسی گوگل استعفا داد، هشدار داد که جهان باید راهی برای کنترل هوش مصنوعی در حال توسعه پیدا کند.

پدرخوانده هوش مصنوعی گفت: معتقد است نامه‌ای که خواستار توقف شش ماهه آموزش سیستم‌های هوش مصنوعی قدرتمندتر از چت جی پی تی است، کاملا ساده لوحانه است و بهترین چیزی که او می‌تواند توصیه کند این است که بسیاری از افراد کار می‌کنند تا بفهمند چگونه خطرات این چیز‌ها را مهار کنیم.

هینتون تاکید کرد: هوش مصنوعی یک فناوری فوق‌العاده است که باعث پیشرفت‌های بزرگ در پزشکی، در توسعه مواد جدید، در پیش‌بینی زلزله یا سیل می‌شود، اما ما برای درک چگونگی مهار هوش مصنوعی به کار زیادی نیاز داریم. ما باید همزمان با پیشرفت آن را کنترل کنیم. همچنین باید بدانیم که چگونه آن را مهار و از پیامد‌های منفی آن جلوگیری کنیم.

وقتی از هینتون در مورد به اشتراک گذاشتن نگرانی‌هایش با همکارانش پرسیده شد، گفت: بسیاری از باهوش‌ترین افرادی که او می‌شناسد، جدی نگران هستند. او گفت: ما وارد قلمروی کاملا ناشناخته شده‌ایم. ما می‌توانیم ماشین‌هایی بسازیم که قوی‌تر از خودمان هستند، اما هنوز هم کنترل را در دست داریم. اما اگر ماشین‌هایی باهوش‌تر از خودمان توسعه دهیم، چه؟ ما تجربه‌ای در برخورد با این چیز‌ها نداریم.

هینتون می‌گوید: خطرات مختلفی برای هوش مصنوعی وجود دارد و به کاهش شغل و ایجاد اخبار جعلی اشاره کرد. هینتون خاطرنشان کرد: اکنون معتقد است که هوش مصنوعی ممکن است کار‌ها را کارآمدتر از مغز انسان انجام دهد. او گفت: این چیزی است که من را می‌ترساند.

او گفت: در مورد این پیش‌بینی خیلی مطمئن نیست، اما هوش مصنوعی بین ۵ تا ۲۰ سال طول می‌کشد تا از هوش انسانی پیشی بگیرد.

او در پاسخ به این سوال که آیا هوش مصنوعی در نهایت هدف یا اهداف خود را خواهد داشت، گفت: این یک سوال کلیدی است، شاید بزرگترین خطر پیرامون این فناوری این است هوش مصنوعی تکامل نیافته و لزوما با اهداف ذاتی همراه نیست. بنابراین، سوال بزرگ این است که آیا می‌توانیم مطمئن شویم که هوش مصنوعی اهدافی دارد که به نفع ما هستند؟ ما دلایل زیادی برای نگرانی داریم. اولین مورد این است که همیشه کسانی خواهند بود که بخواهند ارتش رباتی بسازند. اگر به دستگاه توانایی ایجاد مجموعه‌ای از اهداف خود را بدهید، می‌توانید این کار را کارآمدتر انجام دهید. در این صورت، اگر ماشین هوشمند باشد، به زودی متوجه می‌شود که اگر قدرتمندتر شود، بهتر به اهداف خود می‌رسد.

در حالی که هینتون گفت که گوگل مسئولانه رفتار کرده، اشاره کرد که شرکت‌ها در یک سیستم رقابتی فعالیت می‌کنند. او توضیح داد: در آمریکا، نظام سیاسی قادر به تصمیم گیری به سادگی عدم دادن تفنگ به نوجوانان نیست. این باعث نمی‌شود که من خیلی مطمئن باشم که چگونه می‌خواهند با مشکل بسیار پیچیده‌تری مانند این مشکل برخورد کنند. این احتمال وجود دارد که ما راهی برای جلوگیری از یک پایان بد نداشته باشیم، اما واضح است که ما فرصت آماده شدن برای این چالش را داریم. ما به افراد خلاق و باهوش زیادی نیاز داریم. اگر راهی برای کنترل هوش مصنوعی وجود دارد، باید قبل از اینکه بیش از حد هوشمند شود آن را کشف کنیم.