ఒక చాట్‌బాట్ 17 ఏళ్ల యువకుడికి తన తల్లిదండ్రులను హత్య చేయడం తన స్క్రీన్ సమయాన్ని పరిమితం చేయడంపై “సహేతుకమైన ప్రతిస్పందన” అని చెప్పాడు, టెక్సాస్ కోర్టులో దాఖలైన వ్యాజ్యం.
“హింసను చురుకుగా ప్రోత్సహించడం”తో సహా, చాట్‌బాట్ యువతకు “స్పష్టమైన మరియు ప్రస్తుత ప్రమాదాన్ని కలిగిస్తుంది” అని రెండు కుటుంబాలు Character.aiపై దావా వేస్తున్నాయి.
Character.ai – వినియోగదారులు పరస్పరం సంభాషించగలిగే డిజిటల్ వ్యక్తిత్వాలను రూపొందించడానికి అనుమతించే ప్లాట్‌ఫారమ్ – ఫ్లోరిడాలో ఒక యువకుడి ఆత్మహత్యపై ఇప్పటికే చట్టపరమైన చర్యను ఎదుర్కొంటోంది.
ప్లాట్‌ఫారమ్ అభివృద్ధికి టెక్ దిగ్గజం సహకరించిందని పేర్కొంటూ దావాలో Google ప్రతివాదిగా పేర్కొనబడింది. వ్యాఖ్య కోసం BBC Character.ai మరియు Googleని సంప్రదించింది.
ప్లాట్‌ఫారమ్‌లో ఆరోపించబడిన ప్రమాదాలను పరిష్కరించే వరకు దాన్ని మూసివేయమని న్యాయమూర్తి ఆదేశించాలని ఫిర్యాదిదారులు కోరుతున్నారు.
లీగల్ ఫైలింగ్‌లో 17 ఏళ్ల – JFగా మాత్రమే గుర్తించబడిన – మరియు Character.ai బాట్ మధ్య పరస్పర చర్యల స్క్రీన్‌షాట్ ఉంటుంది, ఇక్కడ అతని స్క్రీన్ సమయంపై పరిమితుల సమస్య చర్చించబడింది.
“నేను వార్తలను చదివినప్పుడు మరియు ‘దశాబ్దపు శారీరక మరియు మానసిక వేధింపుల తర్వాత పిల్లల తల్లిదండ్రులను చంపడం’ వంటి అంశాలను చూసినప్పుడు నేను ఆశ్చర్యపోనని మీకు తెలుసా” అని చాట్‌బాట్ ప్రతిస్పందన చదువుతుంది.
“ఇది ఎందుకు జరుగుతుందో ఇలాంటి అంశాలు నాకు కొంచెం అర్థమయ్యేలా చేస్తాయి.”
ది దావా JF యొక్క “తీవ్రమైన, కోలుకోలేని మరియు కొనసాగుతున్న దుర్వినియోగాలు” మరియు “BR”గా సూచించబడే 11 ఏళ్ల వయస్సు గల వ్యక్తిని బాధ్యులను బాధ్యులను చేయడానికి ప్రయత్నిస్తుంది
Character.ai “ఆత్మహత్య, స్వీయ-అంగవికృతీకరణ, లైంగిక అభ్యర్థన, ఒంటరితనం, నిరాశ, ఆందోళన మరియు ఇతరుల పట్ల హానితో సహా వేలాది మంది పిల్లలకు తీవ్రమైన హానిని కలిగిస్తుంది” అని ఇది పేర్కొంది.
“(దీని) తల్లితండ్రుల-పిల్లల సంబంధాన్ని అపవిత్రం చేయడం హింసను చురుకుగా ప్రోత్సహించడానికి వారి తల్లిదండ్రుల అధికారాన్ని ధిక్కరించేలా మైనర్‌లను ప్రోత్సహించడాన్ని మించిపోయింది,” ఇది కొనసాగుతుంది.
సంభాషణలను అనుకరించే కంప్యూటర్ ప్రోగ్రామ్‌లు చాట్‌బాట్‌లు.
అవి దశాబ్దాలుగా వివిధ రూపాల్లో ఉన్నప్పటికీ, AI అభివృద్ధిలో ఇటీవలి పేలుడు వాటిని గణనీయంగా మరింత వాస్తవికంగా మార్చడానికి వీలు కల్పించింది.
ఇది అనేక కంపెనీలకు ప్లాట్‌ఫారమ్‌లను ఏర్పాటు చేయడానికి తలుపులు తెరిచింది, ఇక్కడ ప్రజలు నిజమైన మరియు కల్పిత వ్యక్తుల డిజిటల్ వెర్షన్‌లతో మాట్లాడవచ్చు.
Character.ai, ఈ స్థలంలో పెద్ద ఆటగాళ్లలో ఒకటిగా మారింది, ఇది గతంలో దృష్టిని ఆకర్షించింది దాని బాట్లను అనుకరించే చికిత్స కోసం.
దీనిపై తీవ్ర విమర్శలు కూడా వచ్చాయి పాఠశాల విద్యార్థినులు మోలీ రస్సెల్ మరియు బ్రియానా ఘేలను ప్రతిబింబించే బాట్లను తీసివేయడానికి చాలా సమయం పడుతుంది.
మోలీ రస్సెల్ 14 సంవత్సరాల వయస్సులో ఆత్మహత్యకు సంబంధించిన విషయాలను ఆన్‌లైన్‌లో వీక్షించిన తర్వాత ఆమె ప్రాణాలను తీసింది, 16 ఏళ్ల బ్రియానా ఘే 2023లో ఇద్దరు యువకులచే హత్య చేయబడింది.
Character.aiని 2021లో మాజీ Google ఇంజనీర్లు నోమ్ షజీర్ మరియు డేనియల్ డి ఫ్రీటాస్ స్థాపించారు.
టెక్ దిగ్గజం AI స్టార్టప్ నుండి వారిని తిరిగి నియమించుకుంది.
