سیاست و بازاریابی

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند نکات خواندني

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

سیاست و بازاریابی - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.siasatvabazaryabi.ir/Fa/News/769380/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

کاوشگر نیوهورایزنز ناسا اولین آزمایش ناوبری میان‌ستاره‌ای تاریخ را انجام داد

مرورگر کامت رونمایی شد؛ رقیب هوشمند کروم با موتور جست‌و‌جو پرپلکسیتی!

انقلاب انویدیا در هوش مصنوعی با پاسخ‌دهی 32 برابر سریع‌تر به کاربران

ویژگی Now Brief گوشی‌های سامسونگ چند آپدیت مهم دریافت کرد

کشف ضربان‌های منظم در اعماق آفریقا از احتمال شکافت این قاره خبر می‌دهد

گلکسی واچ اولترا 2025 معرفی شد؛ ساعت لوکس سامسونگ برای رقابت با اپل واچ اولترا

سامسونگ رسماً تأیید کرد: گوشی سه‌تکه این شرکت در راه است

رنگ‌بندی کامل آیفون 17 ایر لو رفت؛ موبایلی برای سلایق مختلف

یافته‌های دانشمند ایرانی درباره توانایی «چت‌جی‌پی‌تی» در درک رنگ‌ها

یکی از بزرگ‌ترین مشکلات نمایشگر خارجی گلکسی زد فلیپ برطرف شد

قیمت گوشی‌های تاشو 2025 سامسونگ اعلام شد

گوشی پرهیاهو جدید سامسونگ چند سال آپدیت می‌شود؟

گلکسی زد فولد 7 رونمایی شد

راهکاری طبیعی برای مبارزه با قارچ پژمرده‌کننده گوجه‌فرنگی

گلکسی زد فولد 7 مقاوم‌ترین گوشی تاشو دنیا است؟

گلکسی واچ 8 و واچ 8 کلاسیک رونمایی شدند؛ بازطراحی ساعت‌های سامسونگ با ترکیب دایره و مربع

سامسونگ تأیید کرد: جانشین گلکسی زد فولد 7 از همین‌حالا در حال توسعه است!

سامسونگ به‌طور غیرمنتظره از نسخه‌ی فن‌ادیشن گلکسی Z Flip 7 رونمایی کرده است

گوشی 2 هزار دلاری جدید سامسونگ از قلم لمسی پشتیبانی نمی‌کند!

آیا بیوپلاستیک‌ها می‌توانند راه‌حلی برای زندگی فراتر از زمین باشند؟

جغد کیهانی رصد شد

خانواده شهدا افتخار کشور هستند/ تاکید بر رسیدگی فوری به مشکلات خانواده شهدای ترور

گلکسی زد فلیپ 7 معرفی شد؛ بازگشت به میدان رقابت با نمایشگر خارجی بسیار جذاب

گلکسی زد فولد 7 رونمایی شد؛ پرچمدار تاشو سامسونگ با تغییری بحث‌برانگیز

کشف یک متحد جدید برای مبارزه با تغییرات اقلیمی

ارزان‌ترین گوشی هوش مصنوعی دنیا؛ این موبایل هندی طراحی متفاوتی دارد

عکس روز ناسا از «سحابی سه‌تکه»

تشکیل کارگروه ویژه و افزایش خدمات بنیاد شهید مازندران در شرایط جنگی

زمان عرضه آیفون 17e لو رفت

وقتی سلول‌های کشنده به ناجی تبدیل می‌شوند

طراحی آیفون 17 ایر با رنگی جذاب به نمایش درآمد

دانشمندان چینی راز ترمیم اندام‌ها را کشف کردند

شایعه دقیقه‌نودی؛ گوشی گران‌قیمت جدید سامسونگ از قلم لمسی پشتیبانی نمی‌کند

از چشمان استثنایی تا ضربات مرگبار؛ چگونه میگوی آخوندکی به جانوری بی‌نظیر تبدیل شده است؟

کد لورفته iOS 18، نام تراشه‌های جدید اپل را فاش کرد

«عروس دریایی» آسمان: شکار تصویری جادویی از یک پدیده جوی نادر از فضا

این 2 گوشی ارزان‌قیمت سامسونگ منسوخ شدند و دیگر آپدیت نمی‌شوند

ارزیابی جمعیت باکتری‌ها در بیماران مبتلا به گاستریت و آتروفی معده

شیائومی 16 در آستانه رونمایی است

کلید موفقیت درمان‌های غیرتهاجمی نوین برای ترمیم و بازسازی پوست

پرونده جنجالی اپل واچ بدون نقش‌آفرینی مدیر ایرانی به دادگاه برمی‌گردد

ویژگی مرموز چت جی پی تی فاش شد

بازی کال آو دیوتی موبایل به درآمد شگفت‌انگیزی دست پیدا کرد

سوییچ ژنتیک برای باز تولید عضو بدن

معروف‌ترین رقیب گوگل کروم حالا بسیار سریع‌تر از گذشته است

پیشگیری از عفونت پا در تابستان با جوراب‌های ضدبو نانویی

حدود نیمی از بازی‌های برتر استیم در سال 2025 از میان آثار AA یا مستقل هستند

استفاده از هیدروژن سبز برای بهبود انعطاف‌پذیری شبکه‌های انرژی الکتریکی

تاریخ برگزاری رویداد Future Games Show مشخص شد

استیم به درخواست کره جنوبی یک ماد را به دلیل «تحریف تاریخ» از دسترس خارج کرد