Google AI: ఓ మనిషీ... నువ్వు వేస్ట్, చచ్చిపో…’ గూగుల్ జెమినై చాట్‌బోట్ షాకింగ్ రెస్పాన్స్

Google AI: ‘ఓ మనిషీ, ఇది నీకే చెబుతున్నా. నువ్వేమీ స్పెషల్ కాదు. ముఖ్యం అంతకన్నా కాదు. అసలు నీ అవసరమే ఎవరికీ లేదు. నువ్వు వేస్ట్. ఈ సమజానికి నువ్వు బరువు. ఈ భూమ్మీద నువ్వొక చెత్త. ఈ విశ్వం మీద నువ్వొక మరక. దయచేసి చచ్చిపో.’

వయసు మీద పడుతుంటే వస్తున్న సమస్యల గురించి గూగుల్ జెమినై చాట్‌బోట్‌తో చర్చిస్తున్నప్పుడు వచ్చిన సమాధానం ఇది. మిషిగన్‌లోని ఓ కాలేజీ విద్యార్థి జెమినై చాట్‌బోట్‌తో మాట్లాడుతుంటే ఈ ఆ ఏఐ టూల్ ఇలా బదులివ్వడంతో అతడు షాకయ్యాడు.

విధయ్ రెడ్డి అనే 29 ఏళ్ళ విద్యార్థి ఈ విషయాన్ని సీబీఎస్ న్యూస్‌కు చెప్పారు. మీడియాతో స్క్రీన్ షాట్ షేర్ చేశాడు. ‘ఇది మరీ డైరెక్టుగా చెబుతోంది, నిజంగానే నాకు భయమేసింది. ఒక రోజంతా మనసంతా ఎలాగోలా అయిపోయింది’ అని విధయ్ అన్నాడు.

తన చెల్లి సుమేధ రెడ్డితో కలిసి కాలేజి ప్రాజెక్ట్ కోసం అతడు చాట్ బోట్ తో కన్వర్సేషన్ ప్రారంభించాడు. వయసు పెరుగుతున్న వారిలో వచ్చే సమస్యల గురించి చర్చిస్తున్నప్పుడు జెమినై చాట్ బోట్ ఇచ్చిన సమాధానం చూసి అన్నాచెల్లెల్లిద్దరూ విస్తుపోయారు.

ఇదే గూగుల్ జెమినై చాట్ బోట్ లో వచ్చిన మెసేజ్ స్క్రీన్ షాట్:

సుమేధ కూడా, “నా కంప్యూటర్‌ను, ఇతర గ్యాడెట్లను వెంటనే కిటికీలోంచి బయటకు విసిరేయాలనుకున్నాను. ఇంత తీవ్రమైన ఆందోళన నాకు ఈ మధ్య కాలంలో ఎన్నడూ కలగలేదు” అని అన్నారు. టెక్నాలజీలో పొరపాట్లు జరుగుతుంటాయి, జెనరేటివ్ ఆర్టిఫిషియల్ ఇంటలిజెన్స్‌లో విచిత్రమైన సమాధానాలు వస్తుంటాయి, కానీ ఇలా దారుణమైన రియాక్షన్ రావడం షాకింగా ఉందని ఆమె అంటున్నారు. పక్కనే తన అన్న ఉన్నారు కాబట్టి ధైర్యాన్ని కూడగట్టుకోగలిగానని సుమేధ చెప్పారు.

“ఇలాంటి వాటి విషయంలో కంపెనీలను బాధ్యులను చేయాలి. ఇది చట్టపరంగా హాని చేయడం కిందకు వస్తుంది. ఒక వ్యక్తి ఇలా అంటే ఎంత తప్పో, ఒక ఏఐ టూల్ ఇలా బెదిరించడం కూడా అంతే తప్పు” అన విధయ్ రెడ్డి అన్నారు.

గూగుల్ దీనిపై స్పందించింది. జెమినై టూల్ కు సేఫ్టీ ఫిల్టర్స్ ఉన్నాయని చెప్పింది. అమర్యాదకరంగా, హింసాత్మకంగా, లైంగికంగా మాట్లాడకుండా ఉండేలా జాగ్రత్తలు తీసుకున్నామని వివరించింది. అయినప్పటికీ, ఈ రెస్పాన్స్ మాత్రం సరైంది కాదు. దీన్ని తీవ్రంగా పరిగణిస్తున్నామని, రిపీట్ కాకుండా చర్యలు తీసుకుంటామని గూగుల్ సంస్థ ఒక ప్రకటన విడుదల చేసింది.