Home-theater-designers
چیٹ بوٹس برسوں سے موجود ہیں، لیکن بڑے لینگویج ماڈلز، جیسے کہ چیٹ جی پی ٹی اور گوگل بارڈ کے عروج نے چیٹ بوٹ انڈسٹری کو زندگی کا ایک نیا لیز دیا ہے۔
لاکھوں لوگ اب دنیا بھر میں AI چیٹ بوٹس استعمال کرتے ہیں، لیکن اگر آپ ان میں سے کسی ایک ٹول کو آزمانا چاہتے ہیں تو ذہن میں رازداری کے کچھ اہم خطرات اور خدشات موجود ہیں۔
1. ڈیٹا اکٹھا کرنا
زیادہ تر لوگ چیٹ بوٹس کو صرف ہائے کہنے کے لیے استعمال نہیں کرتے ہیں۔ جدید چیٹ بوٹس کو پیچیدہ سوالات اور درخواستوں پر کارروائی کرنے اور ان کا جواب دینے کے لیے ڈیزائن کیا گیا ہے، جس میں صارفین اکثر اپنے اشارے میں بہت ساری معلومات شامل کرتے ہیں۔ یہاں تک کہ اگر آپ صرف ایک سادہ سا سوال پوچھ رہے ہیں، تو آپ واقعی نہیں چاہتے کہ یہ آپ کی گفتگو سے آگے بڑھے۔
کے مطابق اوپن اے آئی کا سپورٹ سیکشن ، آپ جب چاہیں چیٹ جی پی ٹی چیٹ لاگز کو حذف کر سکتے ہیں، اور پھر وہ لاگز 30 دن کے بعد OpenAI کے سسٹمز سے مستقل طور پر خارج کر دیے جائیں گے۔ تاہم، کمپنی کچھ چیٹ لاگز کو برقرار رکھے گی اور ان کا جائزہ لے گی اگر انہیں نقصان دہ یا نامناسب مواد کے لیے جھنڈا لگایا گیا ہے۔
ایک اور مشہور AI چیٹ بوٹ، Claude، بھی آپ کی پچھلی بات چیت پر نظر رکھتا ہے۔ انتھروپک سپورٹ سینٹر بیان کرتا ہے کہ Claude 'آپ کے پرامپٹس اور آؤٹ پٹس کو پروڈکٹ میں ٹریک کرتا ہے تاکہ آپ کو آپ کے کنٹرول کے مطابق وقت کے ساتھ ساتھ پروڈکٹ کا مستقل تجربہ فراہم کیا جا سکے۔' آپ Claude کے ساتھ اپنی گفتگو کو حذف کر سکتے ہیں، لہذا یہ بھول جاتا ہے کہ آپ کس کے بارے میں بات کر رہے ہیں، لیکن اس کا مطلب یہ نہیں ہے کہ Anthropic آپ کے لاگز کو اپنے سسٹمز سے فوری طور پر حذف کر دے گا۔
یہ، یقینا، سوال پیدا کرتا ہے: کیا میرا ڈیٹا رکھا جا رہا ہے یا نہیں؟ کیا ChatGPT یا دیگر چیٹ بوٹس میرا ڈیٹا استعمال کرتے ہیں؟
لیکن خدشات یہیں نہیں رکتے۔
ChatGPT کیسے سیکھتا ہے؟
معلومات فراہم کرنے کے لیے، بڑی زبان کے ماڈلز کو بہت زیادہ ڈیٹا کے ساتھ تربیت دی جاتی ہے۔ کے مطابق سائنس فوکس صرف ChatGPT-4 کو اس کی تربیتی مدت کے دوران 300 بلین الفاظ کی معلومات فراہم کی گئیں۔ یہ براہ راست چند انسائیکلوپیڈیا سے نہیں لیا گیا ہے۔ بلکہ، چیٹ بوٹ کے ڈویلپرز اپنے ماڈلز کو تربیت دینے کے لیے انٹرنیٹ سے معلومات کے بڑے پیمانے پر استعمال کرتے ہیں۔ اس میں کتابوں، فلموں، مضامین، ویکیپیڈیا کے اندراجات، بلاگ پوسٹس، تبصرے، اور یہاں تک کہ جائزہ لینے والی سائٹس کا ڈیٹا شامل ہو سکتا ہے۔
ذہن میں رکھیں کہ چیٹ بوٹ ڈویلپر کی رازداری کی پالیسی پر منحصر ہے، کچھ مذکورہ بالا ذرائع تربیت میں استعمال نہیں کیے جا سکتے ہیں۔
بہت سے لوگوں نے ChatGPT پر تنقید کرتے ہوئے دعویٰ کیا ہے کہ یہ رازداری کے معاملے میں ایک ڈراؤنے خواب ہے، ChatGPT پر بھروسہ نہیں کیا جا سکتا . تو، یہ معاملہ کیوں ہے؟
یہ وہ جگہ ہے جہاں چیزیں تھوڑی دھندلی ہوجاتی ہیں۔ اگر آپ ChatGPT-3.5 سے براہ راست پوچھتے ہیں کہ آیا اسے پروڈکٹ کے جائزوں یا مضمون کے تبصروں تک رسائی حاصل ہے، تو آپ کو سخت منفی ملے گا۔ جیسا کہ آپ نیچے اسکرین شاٹ میں دیکھ سکتے ہیں، GPT-3.5 کہتا ہے کہ اسے اس کی تربیت میں صارف کے مضمون کے تبصروں یا مصنوعات کے جائزوں تک رسائی نہیں دی گئی تھی۔
بلکہ، اسے 'انٹرنیٹ سے متن کی متنوع رینج، بشمول ویب سائٹس، کتابیں، مضامین، اور ستمبر 2021 تک عوامی طور پر دستیاب دیگر تحریری مواد' کا استعمال کرتے ہوئے تربیت دی گئی۔
لیکن کیا GPT-4 کے لیے بھی یہی معاملہ ہے؟
جب ہم نے GPT-4 سے پوچھا تو ہمیں بتایا گیا کہ 'OpenAI نے چیٹ بوٹ کی تربیتی مدت میں مخصوص صارف کے جائزے، ذاتی ڈیٹا، یا مضمون کے تبصرے استعمال نہیں کیے'۔ مزید برآں، GPT-4 نے ہمیں بتایا کہ اس کے جوابات 'ڈیٹا کے پیٹرن [اسے] پر تربیت دی گئی تھی، جو بنیادی طور پر انٹرنیٹ سے کتابوں، مضامین اور دیگر متن پر مشتمل ہے۔'
جب ہم نے مزید چھان بین کی تو GPT-4 نے دعویٰ کیا کہ سوشل میڈیا کے کچھ مواد کو یقیناً اس کے تربیتی ڈیٹا میں شامل کیا جا سکتا ہے، لیکن تخلیق کار ہمیشہ گمنام رہیں گے۔ GPT-4 نے خاص طور پر کہا کہ 'اگرچہ Reddit جیسے پلیٹ فارمز کا مواد تربیتی ڈیٹا کا حصہ تھا، [اسے] مخصوص تبصروں، پوسٹس، یا کسی ایسے ڈیٹا تک رسائی حاصل نہیں ہے جسے واپس کسی انفرادی صارف سے منسلک کیا جا سکے۔'
GPT-4 کے جواب کا ایک اور قابل ذکر حصہ مندرجہ ذیل ہے 'OpenAI نے واضح طور پر استعمال ہونے والے ہر ڈیٹا سورس کو درج نہیں کیا ہے۔' یقیناً، اوپن اے آئی کے لیے 300 بلین الفاظ کی مالیت کے ذرائع کی فہرست بنانا مشکل ہوگا، لیکن اس سے قیاس آرائیوں کے لیے جگہ باقی نہیں رہتی۔
ایک میں آرس ٹیکنیکا مضمون ، یہ کہا گیا تھا کہ ChatGPT 'رضامندی کے بغیر حاصل کردہ ذاتی معلومات' اکٹھا کرتا ہے۔ اسی مضمون میں، سیاق و سباق کی سالمیت کا تذکرہ کیا گیا تھا، ایک ایسا تصور جس سے مراد صرف کسی کی معلومات کو سیاق و سباق میں استعمال کرنا شروع میں استعمال کیا گیا تھا۔ اگر ChatGPT اس سیاق و سباق کی سالمیت کی خلاف ورزی کرتا ہے تو لوگوں کا ڈیٹا خطرے میں پڑ سکتا ہے۔
یہاں تشویش کا ایک اور نکتہ OpenAI کے ساتھ تعمیل ہے۔ جنرل ڈیٹا پروٹیکشن ریگولیشن (GDPR) . یہ ایک ایسا ضابطہ ہے جسے یورپی یونین نے شہریوں کے ڈیٹا کی حفاظت کے لیے نافذ کیا ہے۔ اٹلی اور پولینڈ سمیت مختلف یورپی ممالک نے ChatGPT کے GDPR تعمیل کے بارے میں خدشات کی وجہ سے اس کی تحقیقات شروع کر دی ہیں۔ مختصر وقت کے لیے، ChatGPT پر اٹلی میں رازداری کے خدشات کی وجہ سے پابندی عائد کر دی گئی تھی۔
OpenAI نے ماضی میں منصوبہ بند AI ضوابط کی وجہ سے یورپی یونین سے نکلنے کی دھمکی دی تھی، لیکن اس کے بعد سے اسے واپس لے لیا گیا ہے۔
میں مفت ایپ کے لیے مانگا کہاں پڑھ سکتا ہوں؟
ChatGPT آج کا سب سے بڑا AI چیٹ بوٹ ہو سکتا ہے، لیکن چیٹ بوٹ کی رازداری کے مسائل اس فراہم کنندہ کے ساتھ شروع اور ختم نہیں ہوتے ہیں۔ اگر آپ ناقص رازداری کی پالیسی کے ساتھ ایک مشکوک چیٹ بوٹ استعمال کر رہے ہیں، تو آپ کی گفتگو کا غلط استعمال کیا جا سکتا ہے، یا اس کے تربیتی ڈیٹا میں انتہائی حساس معلومات استعمال کی جا سکتی ہیں۔
2. ڈیٹا چوری
کسی بھی آن لائن ٹول یا پلیٹ فارم کی طرح، چیٹ بوٹس سائبر کرائم کا شکار ہیں۔ یہاں تک کہ اگر ایک چیٹ بوٹ نے صارفین اور ان کے ڈیٹا کی حفاظت کے لیے ہر ممکن کوشش کی، تو ہمیشہ یہ موقع موجود رہتا ہے کہ کوئی سمجھدار ہیکر اس کے اندرونی نظاموں میں دراندازی کا انتظام کرے۔
اگر کوئی دی گئی چیٹ بوٹ سروس آپ کی حساس معلومات، جیسے کہ آپ کے پریمیم سبسکرپشن کے لیے ادائیگی کی تفصیلات، رابطہ ڈیٹا، یا اسی طرح کی معلومات کو محفوظ کر رہی ہے، تو سائبر حملہ ہونے کی صورت میں اسے چوری اور استحصال کیا جا سکتا ہے۔
یہ خاص طور پر درست ہے اگر آپ کم محفوظ چیٹ بوٹ استعمال کر رہے ہیں جس کے ڈویلپرز نے مناسب حفاظتی تحفظ میں سرمایہ کاری نہیں کی ہے۔ نہ صرف کمپنی کے اندرونی نظام کو ہیک کیا جا سکتا ہے، بلکہ اگر آپ کے اپنے اکاؤنٹ میں لاگ ان الرٹس یا تصدیقی پرت نہیں ہے تو اس سے سمجھوتہ کیے جانے کا امکان ہے۔
اب جب کہ AI چیٹ بوٹس بہت مشہور ہیں، سائبر کرائمین قدرتی طور پر اس صنعت کو اپنے گھوٹالوں کے لیے استعمال کرنے کے لیے آ گئے ہیں۔ 2022 کے اواخر میں OpenAI کے چیٹ بوٹ کے مرکزی دھارے میں آنے کے بعد سے جعلی چیٹ جی پی ٹی ویب سائٹس اور پلگ انز ایک بڑا مسئلہ رہا ہے، لوگ گھوٹالوں کا شکار ہو رہے ہیں اور جائز اور اعتماد کی آڑ میں ذاتی معلومات دے رہے ہیں۔
مارچ 2023 میں، MUO نے a جعلی چیٹ جی پی ٹی کروم ایکسٹینشن فیس بک لاگ ان چوری کر رہا ہے۔ . پلگ ان ہائی پروفائل اکاؤنٹس کو ہیک کرنے اور صارف کی کوکیز چوری کرنے کے لیے فیس بک کے بیک ڈور کا استحصال کر سکتا ہے۔ یہ لاتعداد جعلی چیٹ جی پی ٹی سروسز کی صرف ایک مثال ہے جو کہ نادانستہ متاثرین کو قابو کرنے کے لیے بنائی گئی ہے۔
3. میلویئر انفیکشن
اگر آپ اس کو سمجھے بغیر ایک مشکوک چیٹ بوٹ استعمال کر رہے ہیں، تو آپ کو چیٹ بوٹ مل سکتا ہے جو آپ کو بدنیتی پر مبنی ویب سائٹس کے لنکس فراہم کرتا ہے۔ ہوسکتا ہے کہ چیٹ بوٹ نے آپ کو ایک پرکشش تحفہ کے بارے میں آگاہ کیا ہو، یا اس کے بیانات میں سے کسی کے لیے ایک ذریعہ فراہم کیا ہو۔ اگر سروس کے آپریٹرز کے ناجائز ارادے ہیں، تو پلیٹ فارم کا پورا مقصد بدنیتی پر مبنی لنکس کے ذریعے میلویئر اور گھوٹالوں کو پھیلانا ہو سکتا ہے۔
متبادل طور پر، ہیکرز ایک جائز چیٹ بوٹ سروس سے سمجھوتہ کر سکتے ہیں اور اسے میلویئر پھیلانے کے لیے استعمال کر سکتے ہیں۔ اگر یہ چیٹ بوٹ بہت زیادہ لوگوں کا ہوتا ہے، تو ہزاروں، یا یہاں تک کہ لاکھوں صارفین اس میلویئر کا شکار ہو جائیں گے۔ جعلی چیٹ جی پی ٹی ایپس ایپل ایپ اسٹور پر بھی موجود ہیں۔ لہذا احتیاط سے چلنا بہتر ہے۔
عام طور پر، آپ کو کبھی بھی کسی ایسے لنک پر کلک نہیں کرنا چاہیے جو چیٹ بوٹ پہلے فراہم کرتا ہو۔ اسے لنک چیک کرنے والی ویب سائٹ کے ذریعے چلانا . یہ پریشان کن معلوم ہو سکتا ہے، لیکن یہ یقینی بنانا ہمیشہ بہتر ہے کہ آپ کو جس سائٹ پر لے جایا جا رہا ہے اس کا ڈیزائن بدنیتی پر مبنی نہیں ہے۔
مزید برآں، آپ کو کسی بھی چیٹ بوٹ پلگ ان اور ایکسٹینشن کو پہلے ان کی قانونی حیثیت کی تصدیق کیے بغیر انسٹال نہیں کرنا چاہیے۔ ایپ کے ارد گرد تھوڑی تحقیق کریں کہ آیا اس کا اچھی طرح سے جائزہ لیا گیا ہے، اور یہ دیکھنے کے لیے ایپ کے ڈویلپر کی تلاش بھی کریں کہ آیا آپ کو کوئی مشکوک چیز نظر آتی ہے۔
چیٹ بوٹس رازداری کے مسائل سے متاثر نہیں ہیں۔
آج کل زیادہ تر آن لائن ٹولز کی طرح، چیٹ بوٹس کو ان کی ممکنہ سیکورٹی اور رازداری کے نقصانات کے لیے بار بار تنقید کا نشانہ بنایا جاتا رہا ہے۔ چاہے یہ صارف کی حفاظت کی بات ہو، یا سائبر حملوں اور گھوٹالوں کے جاری خطرات، یہ ضروری ہے کہ آپ کو معلوم ہو کہ آپ کی چیٹ بوٹ سروس آپ پر کیا جمع کر رہی ہے، اور آیا اس میں مناسب حفاظتی اقدامات کیے گئے ہیں۔