سیاست و بازاریابی

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند نکات خواندني

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

سیاست و بازاریابی - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.siasatvabazaryabi.ir/Fa/News/769380/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

ارائه خدمات رایگان به جانبازان کشور توسط 20 کانون تخصصی

حسینه‌های شهید پایگاه ترویج و توسعه فرهنگ ایثار و شهادت است

سامسونگ بار دیگر برترین تولیدکننده جهانی تراشه شد

درآمد کوالکام فراتر از انتظار ظاهر شد

رقیب هوش مصنوعی استدلالی «اوپن‌ای‌آی» با قیمت کمتر از 50 دلار ساخته شد

ظرفیت باتری و زمان عرضه گوشی میکس فلیپ 2 شیائومی فاش شد

رشته‌های شبح‌وار ستاره‌ای از یک ستاره مرده

گوگل مدل‌های جمینای 2.0 Pro و 2.0 Flash را با قابلیت استدلال بهتر منتشر کرد

تکذیب نقل قولی از سردار شریفی درباره طلب مرخصی آزادگان

آپدیت برای یکی از پرطرفدارترین میان‌رده‌های سامسونگ منتشر شد

هیدئو کوجیما اشاره‌هایی به ویرایش تریلر جدید Death Stranding 2 داشته است

ذن‌فون 12 اولترا معرفی شد؛ قدرت‌نمایی با اسنپدراگون 8 الیت و لرزشگیر گیمبال 6 محوره و ارتقایافته

ستاره‌زایی در «سحابی کادینگتون»

اپ‌استور اپل احتمالا زیر ذره‌بین نهاد نظارتی چین قرار می‌گیرد

ماموریت جدید ناسا برای مطالعه خورشید

اختتامیه طرح ملی لاله های روشن ویژه شهدای فرهنگی مازندران برگزارشد

مشخصات نسل بعدی گوشی‌های تاشوی سامسونگ لو رفت

استودیوی سازنده بازی Rumbleverse با تعدیل نیرو مواجه شد

هوش مصنوعی Adobe Acrobat می‌تواند اصطلاحات قرارداد را رمزگشایی کند

ربات علیه پهپاد

دیدار استاندار قم و مدیرکل بنیاد شهید با جانباز شیمیایی حسن فروزان

اپل تولید انبوه تراشه‌های M5 را آغاز کرده است

گوگل می‌خواهد موتور جست‌وجو را به دستیار شخصی هوش مصنوعی تبدیل کند

دو استارت‌آپ برای ساخت نسل بعدی تلسکوپ‌ها با هم ادغام شدند

ساعت برگزاری رویداد اختصاصی نینتندو سوییچ 2 اعلام شد

منتظر بازی Apex Legends 2 باشید

کشف اسرار پیری انسان به وسیله موش‌ها

شیائومی 15 اولترا اسفندماه معرفی می‌شود

تاریخ عرضه جهانی گوشی تاشدنی دو لولای هواوی میت XT آلتیمیت اعلام شد

ادای احترام استاندار، مدیر کل بنیاد سمنان و مسئولان ارشد اجرائی نسبت به مقام شامخ شهدای مهدیشهر

حضور جانبازان در مدیریت‌های کلان کشور مایه مباهات و افتخار است

ویدیوهای باورنکردنی؛ پیشرفت خارق‌العاده چین در هوش مصنوعی را ببینید

چشم عینک AR را ببینید!

برگ‌ها الهام‌بخش پنل‌های خورشیدی آینده می‌شوند

مادر شهیدان والا مقام «محمدحسن و عباس گیوه‌کی» آسمانی شد

کارت‌های گرافیک RTX 5090 بدون دلیل و خودبه‌خود از کار می‌افتند

ChatGPT حالا در واتس‌اپ از تصویر و پیام صوتی پشتیبانی می‌کند

سیاهچاله ای بزرگتر از کهکشان آندرومدا

برای خرید قلم جایگزین گلکسی S25 اولترا باید 50 دلار هزینه کنید

زیباترین تصاویر تلسکوپ جیمز وب

گوشی پرچم‌دار و خودرو برقی «اولترا» شیائومی اوایل اسفند رونمایی می‌شوند

توسعه همکاری‌های مشترک بیمه دی و بانک دی

خوشه‌ی جذاب ستاره‌ای باز Westerlund 1

دیدار مدیرکل بنیاد شهید و امور ایثارگران استان اردبیل با خانواده های معظم شهدا و ایثارگران

44 روز سکوت مرکز ملی فضای مجازی؛ چرا مصوبه رفع فیلترینگ منتشر نمی‌شود؟

تلسکوپ فضایی جیمز وب اولین جمعیت کوتوله قهوه‌ای احتمالی خارج از کهکشان ما را شناسایی کرده است !

تاخوردگی نمایشگر تاشدنی گلکسی زد فولد 7 تقریبا نامرئی خواهد بود

مدیرعامل بیمه دی: کار تیمی نشانه بلوغ سازمانی است

تصویری خیره‌کننده از کاسیوپئا

AMD سرمایه‌گذاران را ناامید کرد؛ پیش‌بینی کاهش فروش دیتاسنتر و افت 10 درصدی سهام