ایلان ماسک و گروه بزرگی از متخصصان و صاحبان کسبوکار، در نامهای سرگشاده که تاکنون بیش از ۱۱۸۷ نفر آن را امضا کردهاند و این تعداد همچنان در حال افزایش است، از تمام آزمایشگاههای فعال در زمینه هوش مصنوعی — بهویژه شرکت OpenAI، سازنده ChatGPT — خواستهاند که بهمدت شش ماه، آموزش و توسعه سیستمهای هوش مصنوعی را متوقف کنند.
به باور آنان، اگر هوش مصنوعی با همین سرعت فعلی پیشرفت کند، به موجودی غیرقابل کنترل تبدیل خواهد شد که حتی سازندگانش نیز قادر به مدیریت آن نخواهند بود. در این نامه کمسابقه، از دولتها نیز درخواست شده تا در صورت لزوم، برای اجرای این توقف موقت، وارد عمل شوند.
مقاله اختتامیه دومین دوره جایزه سالانه هوش مصنوعی ایران (IAAA) برگزار شد حاوی اطلاعات جامعی است.
متن اصلی این نامه را که توسط ChatGPT ترجمه شده، بدون هیچ ویرایشی در ادامه میآوریم. ما معتقدیم باید علاوه بر شناخت نقاط ضعف، قدرت این ابزار پیشرفته نیز سنجیده شود. گفتنی است که نسخه مورد استفاده ما، مدل اولیه است و از ChatGPT نسخه 4 استفاده نشده است.
مقاله 70 ابزار کاربردی و سایت رایگان هوش مصنوعی 2025 حاوی اطلاعات جامعی است.
📜 متن کامل نامه:
ما از تمام آزمایشگاههای هوش مصنوعی درخواست میکنیم که بهمدت دستکم شش ماه، آموزش سیستمهایی با قابلیتهای فراتر از GPT-4 را متوقف کنند.
مطالعات گسترده و همچنین اعتراف خود آزمایشگاههای برتر هوش مصنوعی نشان میدهد که سیستمهای هوش مصنوعی همتراز با انسان، میتوانند خطرات بزرگی برای جامعه و بشریت به همراه داشته باشند. همانطور که در «اصول هوش مصنوعی آسیلومار» تأیید شده، هوش مصنوعی پیشرفته میتواند تغییرات بزرگی در تاریخ زندگی روی زمین ایجاد کند و باید با برنامهریزی دقیق، منابع کافی و مدیریت مناسب همراه باشد.
متأسفانه اکنون چنین برنامهریزی وجود ندارد و در ماههای اخیر، آزمایشگاهها در رقابتی بیمهار به ساخت و عرضه مغزهای دیجیتالی پرداختهاند که حتی سازندگانشان هم قادر به درک، پیشبینی یا کنترل آنها نیستند.
هوش مصنوعی امروزی آنقدر پیشرفت کرده که در بسیاری از کارهای عمومی با انسان رقابت میکند. بنابراین باید از خود بپرسیم:
– آیا باید اجازه دهیم ماشینها با انتشار اخبار نادرست و دروغ، فضای اطلاعاتی ما را پر کنند؟
– آیا باید همه مشاغل، حتی آنهایی که سودمند هستند، خودکار شوند؟
– آیا باید هوشی فراتر از انسان ایجاد کنیم که روزی از ما پیشی بگیرد، ما را منسوخ کند و جایگزینمان شود؟
– آیا باید خطر از دست دادن کنترل بر تمدن خود را بپذیریم؟
این تصمیمات سرنوشتساز را نباید به رهبران غیرمنتخب فناوری واگذار کرد. سیستمهای هوشمند قدرتمند تنها زمانی باید ساخته شوند که مطمئن باشیم اثرات آنها مثبت و خطراتشان قابل مدیریت است. این اطمینان باید با توجه به میزان تأثیر سیستمها، بهطور مستدل حاصل شود و با افزایش قابلیتهای آنها، سطح نظارت نیز بیشتر گردد.
OpenAI نیز در بیانیهای درباره هوش مصنوعی عمومی گفته است: «ممکن است زمانی برسد که پیش از آموزش سیستمهای آینده، بازبینی مستقل ضروری باشد و برای تلاشهای پیشرفتهتر، توافقی جهانی برای محدود کردن سرعت رشد محاسبات مورد استفاده در مدلهای جدید لازم باشد.» ما با این دیدگاه موافقیم و معتقدیم آن زمان، هماکنون است.
بنابراین از تمام آزمایشگاههای هوش مصنوعی میخواهیم که بلافاصله و بهمدت حداقل ۶ ماه، آموزش سیستمهای قدرتمندتر از GPT-4 را متوقف کنند. این توقف باید علنی، قابل بررسی و با مشارکت تمام بازیگران اصلی باشد. در صورتی که این توقف داوطلبانه صورت نگیرد، دولتها باید وارد شده و مکث اجباری را اعمال کنند.
این موضوع را بهتر بشناسید با مطالعه نقشه راه یادگیری هوش مصنوعی از صفر + بهترین دوره های آموزشی.
آزمایشگاهها و کارشناسان مستقل باید در این فرصت ششماهه، با همکاری یکدیگر، پروتکلهای ایمنی برای طراحی و توسعه هوش مصنوعی پیشرفته تدوین کنند و نهادهای ناظر مستقل نیز بر اجرای آنها نظارت داشته باشند.
هدف این پروتکلها اطمینان از ایمن بودن سیستمها بدون هیچ شک و شبههای است. این به معنای توقف کامل توسعه هوش مصنوعی نیست، بلکه به معنای عقبنشینی از مسابقهای خطرناک برای ساخت مدلهایی با قابلیتهای غیرقابل پیشبینی است.
تحقیقات هوش مصنوعی باید بر ارتقای سیستمهای کنونی متمرکز شود تا آنها را پیشرفتهتر، امنتر، شفاف، قابل درک، پایدار، همسو با ارزشهای جامعه و قابل اعتماد کند. علاوه بر این، توسعهدهندگان هوش مصنوعی باید با سیاستگذاران همکاری کنند تا چارچوبهای حکمرانی قدرتمند و سریعی برای هوش مصنوعی ایجاد شود.
این چارچوبها باید شامل این موارد باشند:
– نهادهای نظارتی معتبر برای هوش مصنوعی
– سیستمهای رهگیری و نظارت بر هوش مصنوعیهای قدرتمند
– ابزارهای تشخیص منبع و برچسبگذاری برای تشخیص محتوای واقعی از ساختگی
– نظام بازرسی و صدور گواهی قوی
– پذیرش مسئولیت برای خسارتهای ناشی از هوش مصنوعی
– حمایت از پژوهشهای تخصصی در زمینه ایمنی هوش مصنوعی
– تأسیس نهادهای دارای منابع کافی برای مدیریت اختلالات گسترده اقتصادی و سیاسی ناشی از هوش مصنوعی، بهویژه در نظامهای دموکراتیک
بشریت میتواند آیندهای درخشان در کنار هوش مصنوعی داشته باشد. پس از ایجاد سیستمهای هوشمند مطمئن، میتوانیم از یک «تابستان هوش مصنوعی» لذت ببریم و منافع آن را به نفع همه به کار گیریم، سیستمها را بهبود بخشیم و به جامعه فرصت سازگاری بدهیم.
اطلاعات جامعتری در مورد این موضوع را در بهترین سایتهای هوش مصنوعی فارسی 2025 پیدا کنید.
جامعه بشری در گذشته نیز توانسته است در مواجهه با فناوریهای اثرگذار بر جامعه، توسعه آن را متوقف کند. اکنون نیز میتوانیم چنین کنیم. بیایید از یک تابستان طولانی هوش مصنوعی استقبال کنیم، بدون آن که ناآماده و هراسان، به استقبال چالشهای غیرمنتظره برویم.
اطلاعات جامعتری در مورد این موضوع را در معرفی 10 ابزار هوش مصنوعی افزایش کیفیت عکس رایگان پیدا کنید.
— Elon Musk و پژوهشگران خواستار توقف «رقابت خطرناک» برای ارتقای هوش مصنوعی شدهاند.
این موضوع را بهتر بشناسید با مطالعه هوش مصنوعی و علم داده; شباهت ها، تفاوت ها + فرصت های شغلی.
