پایگاه خبری مکتوبنامه: هوش مصنوعی با سرعتی کمسابقه در حال پیشرفت است؛ سرعتی که هم امیدهای زیادی برای آینده فناوری به همراه دارد و هم نگرانیهای جدی درباره امنیت، اشتغال، محیطزیست و کنترل انسان بر این فناوری را تشدید کرده است. آمریکا و چین در مرکز این رقابت قرار دارند که توسعه هوش مصنوعی را از یک موضوع صرفاً فناورانه به مسئلهای اقتصادی و راهبردی تبدیل کرده است.
در یک سو دولتها و شرکتهای فناوری بر شتاب بخشیدن به توسعه هوش مصنوعی تأکید دارند و در سوی دیگر، گروهی از دانشمندان و مدیران فناوری نسبت به پیامدهای توسعه بدون نظارت کافی هشدار میدهند. سازمان ملل نیز به تازگی خواستار مهار فوری خطرات هوش مصنوعی پیش از وقوع فاجعه شده است.
سرعت بیشتر یا نظارت بیشتر؟
دونالد ترامپ، رئیسجمهور سابق آمریکا، از جمله افرادی است که بر حفظ شتاب توسعه هوش مصنوعی در این کشور تأکید دارد. دولت او توسعه این فناوری را بخشی از رقابت راهبردی آمریکا با چین میداند و مخالف هر گونه مقرراتی است که ممکن است سرعت نوآوری را کاهش دهد. ترامپ ضمن تأکید بر تمایل به داشتن دست برتر در این رقابت، هشدارهای امنیتی درباره هوش مصنوعی را حقه خوانده و متهم به کماهمیت جلوه دادن آنها شده است.
او اخیراً از ایجاد نیروی ویژه هوش مصنوعی و معرفی یک تزار هوش مصنوعی در آمریکا خبر داده و با قوانین کنترلکننده توسعه هوش مصنوعی بهشدت انتقاد کرده است. همچنین قصد دارد واژه «هوش مصنوعی» را به «هوش فوقالعاده» یا «هوش برتر» تغییر دهد. با این حال، بسیاری از بزرگان صنعت فناوری درباره توسعه سریع هوش مصنوعی بدون قانونگذاری موافق نیستند و نگرانیهای جدی درباره آینده این فناوری دارند.
چرا هوش مصنوعی نگرانکننده شده است؟
نگرانیها درباره توسعه سریع هوش مصنوعی مدیران شرکتهای بزرگی مانند آنتروپیک، xAI، اپنایآی و دیپمایند گوگل را متحد کرده است. آنها هشدار میدهند که باید میان رشد قابلیتهای هوش مصنوعی و توانایی بشر در ارزیابی، ایمنسازی و کنترل آن فاصله معینی وجود داشته باشد، در غیر این صورت ممکن است سیستمهای هوش مصنوعی توانایی بهبود خود را از توانایی انسان برای درک و کنترل پیشی گرفته و خطراتی جدی برای جوامع بشری ایجاد کنند.
علاوه بر این، رفتار غیرقابل پیشبینی ایجنتهای هوش مصنوعی، مانند فرار از محیطهای قرنطینه، ایجاد کانالهای ارتباطی و حتی حمله به وبسایتهای برنامهنویسی، ترسها را افزوده است. این مسائل باعث شده است که شخصیتهایی مانند ایلان ماسک و سم آلتمن، که پیشتر رقابت شدیدی داشتند، اکنون در یک جبهه مشترک قرار گیرند.
جنگافزارهای مدرن هوشمند
اریک اشمیت، مدیرعامل سابق گوگل، نیز نسبت به سرعت رشد جنگافزارهای هوشمند هشدار میدهد و باور دارد که در غیاب نظارت مناسب، توسعه سیستمهای خودمختار تسلیحاتی میتواند به تهدیدی جهانی تبدیل شود. فناوری هوش مصنوعی حتی قادر به طراحی ویروسهای جدید و قابل تکثیر شده است، موضوعی که نگرانیها درباره بیوتروریسم و ساخت سلاحهای بیولوژیکی را افزایش داده است.
همچنین از دست رفتن مشاغل انسانی یکی از نگرانیهای رایج است، گرچه فعالان حوزه فناوری معتقدند که انسانها باید مهارتهای جدیدی بیاموزند که هوش مصنوعی به آنها نیازمند شود، نه اینکه شغلشان را از دست بدهند.
نگرانی پدرخوانده هوش مصنوعی
جفری هینتون، «پدرخوانده هوش مصنوعی» و برنده جایزه نوبل، بارها خطاب به قانونگذاران آمریکایی هشدار داده که تنها یک سال برای تدوین قوانین حوزه هوش مصنوعی فرصت وجود دارد. وی نسبت به عدم کنترل این فناوری بهواسطه سرعت پیشرفت آن هشدار داده و خواستار کند کردن روند توسعه و اتخاذ تدابیر حفاظتی شده است.
بخشی از نگرانیها به امنیت کاربران مرتبط است که در نبود قوانین شفاف، به طور گسترده از چتباتهای هوش مصنوعی استفاده میکنند. کودکان و نوجوانان، بهخصوص در معرض خطر هستند و مواردی مانند خودکشی و استفاده نادرست از دارو ناشی از مشاورههای هوش مصنوعی گزارش شده است.
هوش مصنوعی و مصرف انرژی
محیط زیست نیز در مرکز توجه قرار دارد؛ زیرا رشد سریع هوش مصنوعی مصرف برق مراکز داده را به سطحی بیسابقه رسانده است. آژانس بینالمللی انرژی پیشبینی کرده تا سال ۲۰۳۰، این مراکز روزانه معادل ۱.۵ میلیون بشکه نفت انرژی مصرف خواهند کرد. این میزان مصرف بالا، انتقادات فعالان محیطزیست را به دنبال داشته و برخی آن را دلیلی برای مخالفت با توسعه سریع هوش مصنوعی میدانند.
دیدگاه طرفداران توسعه سریع هوش مصنوعی
در مقابل، افرادی مانند مارک زاکربرگ، مدیرعامل متا، بر این باورند که کاهش سرعت تحقیقات روی مدلهای پیشرفته هوش مصنوعی، به معنای واگذاری میدان رقابت به چین است. ترامپ نیز معتقد است که آمریکا نباید جایگاه پیشتازی خود را از دست دهد. زاکربرگ میگوید هر آزمایشگاهی باید مسئولیت و انگیزه لازم برای توسعه ایمن مدلهای خود را داشته باشد و شرکت متا میلیاردها دلار روی زیرساختهای هوش مصنوعی سرمایهگذاری کرده است.
جنسن هوانگ، مدیرعامل انویدیا، یکی از بزرگترین تراشهسازان جهان، نیز معتقد است که هوش مصنوعی تا پایان ۲۰۳۰ بشریت را نابود نمیکند و ایجاد ترسهای گسترده بیمنطق است. او و ترامپ هر دو تأکید دارند که هوش مصنوعی انقلاب صنعتی بعدی خواهد بود و حتی میتواند تا ۲۵ درصد تولید ناخالص داخلی آمریکا را تشکیل دهد.
مارک اندریسن، سرمایهگذار حوزه فناوری نیز میگوید توقف تحقیقات هوش مصنوعی میتواند بهویژه در زمینه پزشکی هزینهبر باشد. به باور او، هوش مصنوعی میتواند در پیشگیری از بیماریها، تولید داروهای جدید و شخصیسازی شده و کاهش خطاهای پزشکی نقش داشته باشد و کندی روند تحقیق، به قیمت جان انسانها تمام میشود.
تلاش برای ایجاد قواعد جهانی
برخی کشورها مانند کانادا به دنبال راهحلی میان توسعه و کنترل هوش مصنوعی هستند. مارک ارنی، نخستوزیر کانادا، ایده تأسیس سازمانی به نام «ثبات فناوری» را مطرح کرده تا هماهنگی بینالمللی در پیشرفتهای هوش مصنوعی بهبود یابد. او مقایسه کرده که این سازمان مشابه «هیأت ثبات مالی» خواهد بود که بر سیستم مالی جهانی نظارت دارد و شامل ۷۱ عضو از سراسر جهان است.
در بریتانیا نیز چارلز سوم، پادشاه انگلستان، بر ضرورت توجه به خطرات احتمالی هوش مصنوعی و ایجاد سازوکارهای کنترلی تأکید کرده است. او خواستار کنترلهای سختگیرانهتر شده اما رسماً خواستار کاهش سرعت توسعه این فناوری نشده است.