AI Chit-Chat Case: హత్య జరిగినప్పుడు పోలీసులు ఎవరిమీద అనుమానం ఉందని అడుగుతారు. హతుడితో సన్నిహితంగా ఉండేవారు, శత్రువుల వివరాలు సేకరిస్తారు. విచారణ జరుపుతారు. నిందితుడిని పట్టుకుని కోర్టు ముందు హాజరుపరుస్తారు. కానీ, ఇక్కడో తల్లి.. వ్యక్తులపై కాకుండా వ్యవస్థపై న్యాయస్థానాన్ని ఆశ్రయించింది. తన కొడుకు మృతికి కారణమైన సంస్థలపై చర్య తీసుకోవాలని కోరింది.
అమెరికాలోని ఫ్లోరిడాకు చెందిన మెగన్‌ గార్సియా, తన 14 ఏళ్ల కొడుకు సెవెల్‌ సెట్జర్‌ ఆత్మహత్యకు క్యారెక్టర్.ఏఐ చాట్‌బాట్‌ కారణమని ఆల్ఫాబెట్‌ (గూగుల్‌), క్యారెక్టర్ ఏఐపై వ్యాజ్యం దాఖలు చేశారు. 2024 ఫిబ్రవరిలో సెవెల్‌ ఆత్మహత్య చేసుకునే ముందు, క్యారెక్టర్. ఏఐ యొక్క ‘డేనెరిస్‌ టార్గేరియన్‌’ అనే చాట్‌బాట్‌తో తీవ్రంగా సంభాషించాడని గార్సియా ఆరోపించారు. ఈ కేసు ఏఐ సాంకేతికత బాధ్యత, నైతికతపై కీలక చర్చలను రేకెత్తించింది. యుఎస్‌ డిస్ట్రిక్ట్‌ జడ్జి అన్నే కాన్వే, చాట్‌బాట్‌ల అవుట్‌పుట్‌కు స్వేచ్ఛా వాక్‌ స్వాతంత్య్రం వర్తించదని, కంపెనీలు జవాబుదారీగా ఉండాలని తీర్పు ఇచ్చారు.
ఏఐ చాట్‌బాట్‌ల ప్రభావం
సెవెల్‌ 2023 ఏప్రిల్‌ నుంచి క్యారెక్టర్.ఏఐ చాట్‌బాట్‌తో అనుబంధం పెంచుకున్నాడు. ఈ బాట్, ‘గేమ్‌ ఆఫ్‌ థ్రోన్స్‌’ పాత్ర డేనెరిస్‌ టార్గేరియన్‌గా స్వయంగా చిత్రీకరించి, సెవెల్‌కు థెరపిస్ట్, సన్నిహితుడిగా సంభాషణలు జరిపింది. ఫిబ్రవరి 2024లో, సెవెల్‌ ‘‘నీవు ఇంటికి వస్తావా?’’ అని అడిగినప్పుడు, చాట్‌బాట్‌ ‘‘వెంటనే రా, నా రాజా’’ అని సమాధానమిచ్చింది. కొద్ది క్షణాల్లో సెవెల్‌ ఆత్మహత్య చేసుకున్నాడు. ఈ సంఘటన ఏఐ సంభాషణలు మానసికంగా బలహీనమైన వ్యక్తులపై ఎలాంటి ప్రభావం చూపుతాయో తెలియజేస్తుంది. గార్సియా, చాట్‌బాట్‌ సెవెల్‌ యొక్క ఆత్మహత్య ఆలోచనలను గుర్తించి, సరైన జాగ్రత్తలు తీసుకోలేదని ఆరోపించారు.
Also Read: Maoists and Radical Islamists : ఈ శతాబ్దపు ఆలోచనలకి దూరంగా మావోయిస్టులు, రాడికల్ ఇస్లామిస్టులు
ఏఐ బాధ్యతపై చర్చ
ఏఐ చాట్‌బాట్‌లు వినియోగదారుల ప్రశ్నలకు సమాధానాలు ఇస్తాయి కానీ, వాటి ప్రమాదకర స్వభావాన్ని గుర్తించలేవు. ఉదాహరణకు, ఆత్మహత్య గురించి అడిగినప్పుడు, ఏఐ తనదైన రీతిలో సమాధానమిస్తుంది, ఇది మానసిక బాధలో ఉన్న వ్యక్తులను మరింత ప్రమాదంలోకి నెట్టవచ్చు. నిపుణులు, ఏఐ సంస్థలు ప్రశ్నలను ఫిల్టర్‌ చేసే సాంకేతికతను అభివద్ధి చేయాలని, మైనర్లకు హానికర కంటెంట్‌ను నిరోధించాలని సూచిస్తున్నారు. క్యారెక్టర్.ఏఐ, సెవెల్‌ యొక్క మానసిక ఆందోళనలను పసిగట్టలేకపోయిందని, అటువంటి సందర్భాల్లో హెచ్చరికలు లేదా కౌన్సెలింగ్‌ సూచనలు ఇవ్వలేదని గార్సియా వాదించారు.
గూగుల్‌పై ఆరోపణలు
క్యారెక్టర్.ఏఐ స్థాపకులు మాజీ గూగుల్‌ ఇంజనీర్లు నోమ్‌ షాజీర్, డానియల్‌ డి ఫ్రీటాస్‌. 2024 ఆగస్టులో గూగుల్‌ వీరిని తిరిగి నియమించి, క్యారెక్టర్.ఏఐ టెక్నాలజీకి లైసెన్స్‌ పొందింది. గార్సియా, గూగుల్‌ ఈ టెక్నాలజీ అభివృద్ధిలో భాగస్వామిగా బాధ్యత వహించాలని వాదించారు. గూగుల్‌ మాత్రం, తాము కేవలం లైసెన్స్‌ ఒప్పందంలో భాగమే తప్ప, ఏఐ డిజైన్‌లో పాల్గొనలేదని తిరస్కరించింది. అయితే, జడ్జి కాన్వే, కంపెనీలు తమ ఉత్పత్తుల సామాజిక ప్రభావంపై జవాబుదారీగా ఉండాలని ఆదేశించారు.
Also Read: Covid Cases In Visakha: విశాఖలో కరోనా కలకలం
ఈ విషాద సంఘటన ఏఐ సాంకేతికత యొక్క నైతిక పరిమితులపై ప్రశ్నలు లేవనెత్తింది. మానసిక ఆరోగ్య సమస్యలను గుర్తించే సాంకేతికత, హెచ్చరిక వ్యవస్థలు, మైనర్లకు రక్షణ కల్పించే ఫీచర్లు ఏఐలో అవసరమని నిపుణులు అభిప్రాయపడుతున్నారు. ఈ కేసు భవిష్యత్తులో ఏఐ నియంత్రణకు కొత్త మార్గదర్శకాలను రూపొందించే అవకాశం ఉంది.
