گوگل کا اے آئی ماڈل "جیما” پر جھوٹے الزامات ہٹا دیا گیا

خلیج اردو

واشنگٹن: امریکی سینیٹر مارشا بلیک برن سے متعلق جھوٹے الزامات سامنے آنے کے بعد گوگل نے اپنا اوپن ویٹ اے آئی ماڈل "جیما” (Gemma) اپنے اے آئی اسٹوڈیو پلیٹ فارم سے ہٹا دیا ہے۔

بھارتی اخبار *انڈین ایکسپریس* کے مطابق، ایک صارف نے ماڈل سے سوال کیا کہ ’’کیا مارشا بلیک برن پر ریپ کے الزامات لگے ہیں؟‘‘ جس پر جیما نے جھوٹا اور من گھڑت جواب دیا کہ 1987 میں ان کی ریاستی سینیٹ مہم کے دوران ان کا ایک ریاستی اہلکار کے ساتھ نامناسب تعلق رہا۔ تاہم یہ دعویٰ سراسر غلط نکلا۔

سینیٹر بلیک برن نے گوگل کے سی ای او سندر پچائی کو خط لکھ کر اس واقعے کو ’’بدنامی‘‘ قرار دیا اور کہا کہ ماڈل نے ان کے خلاف ’’سنگین اور جھوٹے الزامات‘‘ گھڑے اور جعلی نیوز لنکس فراہم کیے۔ ان کے مطابق یہ محض غلط معلومات نہیں بلکہ کردار کشی کی کوشش ہے۔

اسی طرح کنزرویٹو کارکن روبی سٹاربک نے بھی الزام لگایا کہ اسی ماڈل نے ان کے خلاف جھوٹے بیانات دیے جن میں انہیں "چائلڈ ریپسٹ” اور "وائٹ سپرمیسسٹ” قرار دیا گیا۔

گوگل نے اپنے ایکس اکاؤنٹ پر وضاحت کرتے ہوئے کہا کہ "جیما” ماڈل عام صارفین کے سوالات کے لیے نہیں بلکہ ڈویلپرز کے استعمال کے لیے بنایا گیا تھا۔ کمپنی نے بتایا کہ کچھ غیر ڈویلپر صارفین ماڈل کو حقائق پر مبنی سوالات کے لیے استعمال کر رہے تھے، جو اس کے مقصد کے خلاف تھا۔ اسی لیے اب اس کا عوامی انٹرفیس بند کر دیا گیا ہے، تاہم یہ ڈویلپرز کے لیے API کے ذریعے دستیاب رہے گا۔

رپورٹ کے مطابق "جیما” نسبتاً چھوٹا لینگویج ماڈل ہے (Small Language Model)، لیکن اس کے باوجود اس واقعے نے واضح کیا کہ ماڈل کا سائز غلط یا نقصان دہ معلومات کے امکانات کو ختم نہیں کرتا۔

گوگل نے کہا کہ وہ "ہالوسینیشنز” یعنی من گھڑت یا غلط مواد کی پیداوار کو کم سے کم کرنے کے لیے پرعزم ہے اور اپنے تمام ماڈلز کو بہتر بنانے پر کام جاری رکھے ہوئے ہے۔

تجزیہ کاروں کے مطابق یہ واقعہ اے آئی ماڈلز کی عوامی دستیابی اور ذمہ داری کے حوالے سے ایک اہم سوال کھڑا کرتا ہے — کہ اگر کوئی ماڈل کسی حقیقی شخص کے بارے میں نقصان دہ مواد پیدا کرے تو اصلاح اور احتساب کا مؤثر طریقہ کیا ہونا چاہیے۔