Chatbot ప్లాట్ఫారమ్ Character.ai టీనేజర్ల కోసం పనిచేసే విధానాన్ని మెరుగుపరుస్తుంది, ఇది తల్లిదండ్రుల కోసం అదనపు నియంత్రణలతో “సురక్షితమైన” స్థలంగా మారుతుందని వాగ్దానం చేస్తోంది.
సైట్ USలో రెండు వ్యాజ్యాలను ఎదుర్కొంటోంది – ఒక యువకుడి మరణంపై – మరియు “స్పష్టమైన మరియు ప్రస్తుత ప్రమాదం“యువకులకు.
వారు చాట్బాట్లతో మరియు వారు ఎక్కువగా మాట్లాడే వాటితో ఎంత సమయం గడుపుతున్నారు – వారి పిల్లలు ప్లాట్ఫారమ్ను ఎలా ఉపయోగిస్తున్నారో తల్లిదండ్రులకు తెలియజేసే కొత్త ఫీచర్ల ద్వారా చేసే అన్నింటిలో భద్రత ఇప్పుడు “ఇన్ఫ్యూజ్” అవుతుందని పేర్కొంది.
ప్లాట్ఫారమ్ – వినియోగదారులు వారు పరస్పర చర్య చేయగల డిజిటల్ వ్యక్తిత్వాలను సృష్టించడానికి అనుమతిస్తుంది – మార్చి 2025 చివరి నాటికి తల్లిదండ్రుల నియంత్రణల యొక్క “మొదటి పునరావృతం” పొందుతుంది.
కానీ మోలీ రోజ్ ఫౌండేషన్ అధిపతి ఆండీ బర్రోస్ ఈ ప్రకటనను “ఆలస్యమైన, రియాక్టివ్ మరియు పూర్తిగా అసంతృప్తికరమైన ప్రతిస్పందన” అని పిలిచారు, ఇది “వారి ప్రాథమిక భద్రతా సమస్యలకు అతుక్కొని ఉన్న ప్లాస్టర్గా కనిపిస్తోంది” అని అన్నారు.
“Character.ai వంటి ప్లాట్ఫారమ్లతో పట్టు సాధించడానికి మరియు పూర్తిగా నివారించదగిన హానిని ఎదుర్కోవడంలో వారి నిరంతర వైఫల్యానికి వ్యతిరేకంగా చర్య తీసుకోవడానికి Ofcomకి ఇది ముందస్తు పరీక్ష అవుతుంది” అని అతను చెప్పాడు.
క్యారెక్టర్.ఐ అక్టోబర్లో విమర్శించారు యుక్తవయస్కులైన మోలీ రస్సెల్ మరియు బ్రియానా ఘే యొక్క చాట్బాట్ వెర్షన్లు ప్లాట్ఫారమ్లో కనుగొనబడినప్పుడు.
ఇది గతంలో పిల్లల భద్రతను ఎలా నిర్వహించిందనే ఆందోళనలపై USలో చట్టపరమైన చర్యను ఎదుర్కొంటున్నందున కొత్త భద్రతా ఫీచర్లు వచ్చాయి, ఒక కుటుంబం క్లెయిమ్ చేయడంతో ఒక చాట్బాట్ 17 ఏళ్ల యువకుడికి తన తల్లిదండ్రులను హత్య చేయడం అతని స్క్రీన్ సమయాన్ని పరిమితం చేయడం పట్ల వారికి “సహేతుకమైన ప్రతిస్పందన” అని చెప్పాడు.
వినియోగదారులు ఒక గంట పాటు చాట్బాట్తో మాట్లాడిన తర్వాత వారికి నోటిఫికేషన్ ఇవ్వడం మరియు కొత్త డిస్క్లైమర్లను పరిచయం చేయడం వంటివి కొత్త ఫీచర్లలో ఉన్నాయి.
వినియోగదారులు నిజమైన వ్యక్తితో కాకుండా చాట్బాట్తో మాట్లాడుతున్నారని మరియు అది చెప్పేది కల్పితం అని భావించే మరిన్ని హెచ్చరికలు ఇప్పుడు చూపబడతాయి.
మరియు ఇది చాట్బాట్లకు అదనపు డిస్క్లైమర్లను జోడిస్తోంది, ఇది మనస్తత్వవేత్తలు లేదా థెరపిస్ట్లని ఉద్దేశించి, వృత్తిపరమైన సలహా కోసం వినియోగదారులపై ఆధారపడకూడదని చెప్పడానికి.
సోషల్ మీడియా నిపుణుడు మాట్ నవర్రా మాట్లాడుతూ, కొత్త భద్రతా లక్షణాలను ప్రవేశపెట్టే చర్య “మన దైనందిన జీవితంలో AI యొక్క వేగవంతమైన ఏకీకరణ ద్వారా ఎదురయ్యే సవాళ్లకు పెరుగుతున్న గుర్తింపును ప్రతిబింబిస్తుంది”.
“ఈ సిస్టమ్లు కేవలం కంటెంట్ను అందించడం మాత్రమే కాదు, అవి పరస్పర చర్యలు మరియు సంబంధాలను అనుకరిస్తాయి, ఇవి ప్రత్యేకమైన నష్టాలను సృష్టించగలవు, ముఖ్యంగా నమ్మకం మరియు తప్పుడు సమాచారం చుట్టూ,” అని అతను చెప్పాడు.
“Character.ai ఒక ముఖ్యమైన దుర్బలత్వాన్ని, దుర్వినియోగానికి లేదా యువ వినియోగదారులకు అనుచితమైన కంటెంట్ను ఎదుర్కొనే అవకాశం ఉందని నేను భావిస్తున్నాను.
“ఇది ఒక తెలివైన చర్య, మరియు బాధ్యతాయుతమైన AI అభివృద్ధి చుట్టూ అభివృద్ధి చెందుతున్న అంచనాలను అంగీకరించేది.”
అయితే మార్పులు ప్రోత్సాహకరంగా ఉన్నప్పటికీ, Character.ai పెద్దదిగా కొనసాగుతున్నందున భద్రతలు ఎలా కొనసాగుతాయనే దానిపై ఆసక్తి ఉందని అతను చెప్పాడు.