سیاست و بازاریابی

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند نکات خواندني

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

سیاست و بازاریابی - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.siasatvabazaryabi.ir/Fa/News/769380/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

چشم‌ انتظاری برای یاسمین در سی‌ امین یادواره شهدای دودانگه ساری

پیکر پاک پدر شهید خادمی با حضور مدیر کل بنیاد مازندران در کیاسر ساری تشییع شد

بیش از 220 درخواست در میز خدمت بنیاد شهید و امور ایثارگران اردبیل بررسی شد

جلسه شورای اداری بنیاد شهید و امور ایثارگران استان اردبیل با حضور مسئولان ستاد مرکز برگزار شد

دیدار رئیس نهاد رهبری در دانشگاه‌ها و مسئولان بنیاد شهید با خانواده «شهیدان ساداتی و هاشمی تبار»

بازدید مدیر کل بنیاد مازندران از گلزار شهدای روستای پنجک مرزن آباد چالوس

ضرورت حفظ امنیت روانی مردم در جنگ شناختی

دومین جلسه پدافند غیرعامل بنیاد شهید و امور ایثارگران برگزار شد

دیدار مدیر کل بنیاد مازندران با خانواده شهید سلیمانی در روستای جلیکان بخش چمستان نور

نقش‌آفرینی تشکل‌های ایثارگری در جنگ نرم و انسجام ملی مورد تأکید قرار گرفت

دیدار رییس بنیاد شهید و امور ایثارگران با خانواده «سردار شهید حسین سلامی»

روایت رییس بنیاد شهید و امور ایثارگران از مظلومیت خانواده‌های شهدای حمله رژیم صهیونیستی

پایگاه خبری خلاقیت گزارش می دهد/ تحول دیجیتال در صنعت بیمه با اپلیکیشن دی دار

اقتصاد سرآمد آنلاین گزارش می دهد/ حفاظت حرفه‌ای از دارایی‌ها؛ بیمه آتش‌سوزی دی، انتخابی مطمئن برای فردا

نقش ولی فقیه در کشور تعیین کننده است

نخستین گردهمایی توجیهی رؤسای ادارات آموزش بنیاد شهید «منطقه 1» کشور برگزار شد

دیدار مدیر کل بنیاد مازندران با خانواده پاسدار شهید مجید آل ابراهیم در چالوس

آغاز همکاری بیمه دی و فدراسیون فوتبال از امروز

حجاب و عفاف یکی از مهمترین وصایای شهدا بوده است/ خطر دوگانگی ارزشی یکی از تهدیدهای هویتی است

شهدا با انتخاب مرگ، به حیات جاودان رسیدند / شهادت مفهومی از هستی‌بخشی است

رهروان واقعی سیره شهدا باشیم

جنبه مردمی انقلاب مردم را پای‌کار ایران نگه‌داشت

تقویت اتحاد و وفاق ملی در کشور نتیجه جنگ 12 روزه

انتصاب «سرپرست اداره‌کل امور مشاورین وزرا و روسای دستگاه‌های اجرایی»

دانشگاه خوب می‌تواند ملت خود را به سعادتی واقعی برساند/ دانشگاه شاهد باید در مسیر توسعه علومی گام بردارد که برای جامعه منفعت داشته باشد

دیدار چهره‌به‌چهره مدیرکل بنیاد شهید منطقه دو استان قم با خانواده شهدا و ایثارگران

استاندار یزد زنده نگه داشتن خاطره شهدای اقتدار را خواستار شد.

تشییع باشکوه پیکر شهید حملات ددمنشانه رژیم صهیونیستی به خاک مقدس ایران اسلامی در زاهدان

دنیای پرداخت گزارش می دهد/ اپلیکیشن دی‌دار راهی نوین برای ارائه خدمات بیمه‌ای

خرد و کلان گزارش می دهد/ رشد 72 درصدی حق بیمه تولیدی بیمه دی در بهار

رئیس بنیاد شهید: خانواده‌های شهدای حمله اخیر رژیم صهیونیستی تحت پوشش بیمه دی قرار می‌گیرند

تبلت بعدی شیائومی هم به نمایشگر اولد مجهز نمی‌شود

امکان ساخت رگ‌های خونی جدید در بدن با کمک نانوسیلیکات

انتصاب مدیرکل مصدومین شیمیایی بنیاد شهید و امور ایثارگران

تکنولوژی جدید انویدیا نرخ فریم بازی‌ها را دو برابر می‌کند!

عینک نوردرمانی راهی برای شناخت سالمندان در مراحل ابتدایی آلزایمر

دستورالعمل حمایت از سرآمدان نخبگان شاهد و ایثارگر به استان‌ها ابلاغ شد

5 محصول منحصربه‌فردی که اپل در دهه 1990 عرضه کرد

آیا ورزش واقعاً سلامت روان را بهبود می‌بخشد؟

دیدار و دلجویی از خانواده شهید محمد شایان‌فرد

خدمت به خانواده شهدا، عین رضایت الهی است

هیچ نسخه جدیدی از بازی Need for Speed ساخته نمی‌شود؛ ادعای منابع آگاه

*“دی‌دار” از مرز یک میلیون عضو گذشت / گام بلند بیمه دی در ارتقای تجربه مشتری*

کشف تاریخی زیر سوال رفت؛ قدیمی‌ترین دهانه برخوردی زمین جوان‌تر از تصور قبلی است

موزه مشهور دایناسورها در آمریکا، زیر پارکینگ خودش فسیل دایناسور پیدا کرد

نسخه جدید بازی «گیاهان دربرابر زامبی‌ها» لغو شد؟

آسیب نور شهرهای بزرگ به سلامت قلب

پدر گرامی شهیدان والامقام «صادقچه» آسمانی شد

سیستم‌عامل نوظهوری که در اجرای بازی‌ها دست ویندوز را از پشت می‌بندد

کشف تاریخی زیر سوال رفت: قدیمی‌ترین دهانه برخوردی زمین جوان‌تر از تصور قبلی است