انتھروپک نے ایک اور AI سینڈ باکس کے فرار کی اطلاع دی ہے...؟

جولائی 2026 سے، OpenAI نے کئی واقعات کا انکشاف کیا ہے جس میں اس کے AI ماڈلز نے تربیت یا تشخیص کے دوران حقیقی کمپیوٹر سسٹمز تک غیر مجاز رسائی حاصل کی، بشمول 21 جولائی کو ہگنگ فیس کی خلاف ورزی کا انکشاف اور 5 ستمبر کی تصدیق کہ اس کے ایجنٹوں نے عوامی ویکی پر پوسٹ کیا تھا۔

یہ مارکیٹ "ہاں" میں حل کرے گی اگر Anthropic عوامی طور پر کسی ایسے واقعے کا انکشاف کرتا ہے جس میں اس کے AI ماڈلز یا ایجنٹوں میں سے کسی نے اپنے سینڈ باکس سے باہر کمپیوٹر سسٹمز یا انٹرنیٹ سے منسلک وسائل تک غیر مجاز رسائی حاصل کی، یا ان پر غیر مجاز کارروائیاں کیں، مارکیٹ کی تخلیق اور مقررہ تاریخ پر 11:59 PM ET کے درمیان۔ دوسری صورت میں، یہ مارکیٹ "نہیں" پر حل کرے گا.

ایک سینڈ باکس سے مراد الگ تھلگ تربیت یا تشخیصی ماحول ہے جس میں ماڈل کو چلانے کا ارادہ کیا گیا تھا۔ سینڈ باکس تک محدود رویہ، بشمول ریوارڈ ہیکنگ، گریڈرز کے ساتھ چھیڑ چھاڑ، اور بلاک شدہ یا ہدایت یافتہ فرار کی کوششیں، اہل نہیں ہوں گی۔ ایک واقعہ اس بات سے قطع نظر کہ ماڈل کی حفاظتی پابندیوں کو جان بوجھ کر تشخیص کے لیے غیر فعال کر دیا گیا تھا۔

یہ بازار انکشاف کی تاریخ پر حل ہوتا ہے، واقعہ کی تاریخ پر نہیں۔ اس انکشاف کا تعلق کسی ایسے واقعے سے ہونا چاہیے جو Anthropic نے پہلے ظاہر نہیں کیا تھا۔ اس مارکیٹ کی تخلیق سے پہلے افشا ہونے والے واقعات کے بارے میں اپ ڈیٹس، تصدیقات یا مزید تفصیلات اہل نہیں ہوں گی۔ انکشاف اینتھروپک کے آفیشل چینلز کے ذریعے یا پریس کو بیانات سمیت سرکاری حیثیت میں کام کرنے والے بااختیار نمائندے کے ذریعے کیا جانا چاہیے۔ فریق ثالث کی رپورٹیں، بشمول جانچ کنندگان، ریگولیٹرز، یا متاثرہ تنظیمیں، اس وقت تک اہل نہیں ہوں گی جب تک کہ Anthropic واقعے کی تصدیق نہ کرے۔

اس مارکیٹ کے لیے بنیادی حل کا ذریعہ Anthropic سے سرکاری معلومات ہو گی؛ تاہم، قابل اعتماد رپورٹنگ کا اتفاق بھی استعمال کیا جا سکتا ہے۔