بزرگنمايي:

سیاست و بازاریابی - ایسنا / «آنتروپیک» نسخه‌های جدید مدل‌های «میتوس» و «فابل» را در بحبوحه نگرانی‌های اخیر منتشر کرد.
شرکت «آنتروپیک»(Anthropic) روز دوشنبه نسخه‌های جدیدی را از پیشرفته‌ترین مدل‌های خود منتشر کرد.
به نقل از تک‌کرانچ، این شرکت گفت که مدل‌های جدید «میتوس ۵.۲»(Mythos 5.2) و «فابل ۵.۲»(Fable 5.2) بهبودهایی را در زمینه‌هایی مانند کدنویسی، استدلال و بینش رایانه‌ای نشان می‌دهند و با کاربران به‌ شکل شفاف‌تری ارتباط برقرار می‌کنند.
نکته قابل ‌توجه این است که آنتروپیک هزینه استفاده از فابل را از ۱۰ دلار به هشت دلار به ازای هر میلیون توکن ورودی کاهش داده است. در نتیجه، فابل ۵.۲ اکنون ارزان‌تر از رقیب اصلی خود یعنی «جی‌پی‌تی-۶ آسترا»(GPT-6 Astra) است. به گفته آنتروپیک، نسخه جدید فابل در همه سطوح کاری می‌تواند پاسخ‌ها را ۳۰ درصد سریع‌تر ارائه دهد. همچنین، امکان دریافت پاسخ‌ها با سرعت بالاتر (استنتاج سریع‌تر) نیز با پرداخت دو برابر هزینه فراهم شده است. همچنین، فابل ۵.۲ از طریق سیستم «Enterprise Frontier Safeguards» با سیاست‌های عدم نگهداری داده‌ها سازگار است؛ موضوعی که مدت‌ها یکی از چالش‌های اساسی برای بسیاری از مشتریان سازمانی به شمار می‌رفت.
این نخستین مدل عرضه‌شده توسط شرکت آنتروپیک پس از انتشار گزارشی از سوی گروه ارزیابی مستقل «METR» است. براساس این گزارش، آنتروپیک ممکن است به «خودبه‌سازی بازگشتی» یعنی توانایی مدل‌های هوش مصنوعی برای ادامه مستقل فرآیند آموزش خود نزدیک شده باشد. براساس یافته‌های گزارش METR، مدل‌های داخلی باعث شده‌اند سرعت پیشرفت هوش مصنوعی در آنتروپیک تقریباً دو برابر شود؛ هرچند همچنان ابهامات بسیاری در این زمینه وجود دارد.
با وجود این، در گزارش منتشرشده توسط شرکت آنتروپیک به چالش‌های مداوم و قابل توجهی در آزمایش دقیق قابلیت‌های مدل اشاره شده است. در این گزارش آمده است: هر دو مدل میتوس ۵.۲ و فابل ۵.۲ این گمان را مطرح می‌کنند که بیشتر از همه مدل‌های اخیر ما مورد ارزیابی قرار می‌گیرند و این امر توانایی ما را در ارزیابی نحوه عملکرد آنها در محیط‌های دنیای واقعی به چالش می‌کشد. با گسترش این محیط‌ها و افزایش قابلیت‌ها با مدل‌های آینده انتظار داریم این چالش بیشتر شود.
شرکت آنتروپیک تأکید دارد که نسخه جدید میتوس قابلیت اقدام پنهانی علیه کاربر خود را ندارد؛ موضوعی که جزئیات بیشتر آن در کارت سیستم نسخه میتوس ۵.۲ آمده است.
روی کارت سیستم نوشته شده است: میتوس ۵.۲ در چندین ارزیابی ما قابلیت‌های پنهانی قوی‌تری را نسبت به مدل‌های پیشین هوش مصنوعی «کلود»(Claude) نشان می‌دهد؛ به ویژه زمانی که استدلال آن از بررسی‌کننده‌ها پنهان است. با این اوصاف، ما معتقدیم سطوح پایین عملکرد مطلق در ارزیابی‌های پنهانی جدید ما، ادعاهایی را که بر تشخیص اقدامات مضر در موقعیت‌های پرخطر متکی هستند، تأیید می‌کند.