AIలోని పక్షపాతం మన స్వంత పక్షపాతాలను పెంచుతుంది, పరిశోధకులు చూపిస్తున్నారు

లో ప్రచురించబడిన ఫలితాల ప్రకారం, మానవ మరియు AI పక్షపాతాలు తత్ఫలితంగా ఒక అభిప్రాయ లూప్‌ను సృష్టించగలవు, చిన్న ప్రారంభ పక్షపాతాలు మానవ తప్పిదాల ప్రమాదాన్ని పెంచుతాయి. ప్రకృతి మానవ ప్రవర్తన.

AI పక్షపాతం వాస్తవ-ప్రపంచ పరిణామాలను కలిగిస్తుందని పరిశోధకులు నిరూపించారు, ఎందుకంటే పక్షపాత AIలతో పరస్పర చర్య చేసే వ్యక్తులు మహిళల పనితీరును తక్కువగా అంచనా వేయడానికి మరియు ఉన్నత-స్థాయి ఉద్యోగాలను కలిగి ఉన్న శ్వేతజాతీయుల సంభావ్యతను ఎక్కువగా అంచనా వేసే అవకాశం ఉందని వారు కనుగొన్నారు.

సహ-ప్రధాన రచయిత ప్రొఫెసర్ టాలీ షారోట్ (UCL సైకాలజీ & లాంగ్వేజ్ సైన్సెస్, మాక్స్ ప్లాంక్ UCL సెంటర్ ఫర్ కంప్యూటేషనల్ సైకియాట్రీ అండ్ ఏజింగ్ రీసెర్చ్, మరియు మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీ) ఇలా అన్నారు: “ప్రజలు అంతర్గతంగా పక్షపాతంతో ఉంటారు, కాబట్టి మేము డేటా సెట్లపై AI వ్యవస్థలను శిక్షణ చేసినప్పుడు వ్యక్తులచే ఉత్పత్తి చేయబడ్డాయి, AI అల్గారిథమ్‌లు మానవులను నేర్చుకుంటాయి డేటాలో పొందుపరిచిన పక్షపాతాలు దాని అంచనా ఖచ్చితత్వాన్ని మెరుగుపరచడానికి ఈ పక్షపాతాలను ఉపయోగించుకుంటాయి మరియు విస్తరించాయి.

“ఇక్కడ, పక్షపాత AI సిస్టమ్‌లతో పరస్పర చర్య చేసే వ్యక్తులు తమను తాము మరింత పక్షపాతంగా మార్చుకోవచ్చని మేము కనుగొన్నాము, అసలు డేటాసెట్‌లలోని నిమిషాల పక్షపాతాలు AI ద్వారా విస్తరించబడే సంభావ్య స్నోబాల్ ప్రభావాన్ని సృష్టిస్తాయి, ఇది AIని ఉపయోగించే వ్యక్తి యొక్క పక్షపాతాన్ని పెంచుతుంది. “

టాస్క్‌లను పూర్తి చేస్తున్న మరియు AI సిస్టమ్‌లతో పరస్పర చర్య చేస్తున్న 1,200 మంది అధ్యయన భాగస్వాములతో పరిశోధకులు వరుస ప్రయోగాలను నిర్వహించారు.

ప్రయోగాలలో ఒకదానికి పూర్వగామిగా, పరిశోధకులు పాల్గొనేవారి ప్రతిస్పందనల డేటాసెట్‌పై AI అల్గారిథమ్‌కు శిక్షణ ఇచ్చారు. ఫోటోలో ఉన్న ముఖాల సమూహం సంతోషంగా లేదా విచారంగా ఉన్నాయో లేదో నిర్ణయించమని ప్రజలను అడిగారు మరియు వారు సంతోషం కంటే ఎక్కువ తరచుగా ముఖాలను విచారంగా ఉన్నట్లు నిర్ధారించే స్వల్ప ధోరణిని ప్రదర్శించారు. AI ఈ పక్షపాతాన్ని నేర్చుకుంది మరియు ముఖాలను విచారంగా ఉన్నట్లు నిర్ధారించే విషయంలో దానిని మరింత పక్షపాతంగా మార్చింది.

పాల్గొనేవారిలో మరొక సమూహం అదే పనిని పూర్తి చేసింది, కానీ ప్రతి ఫోటోకు AI ఎలాంటి తీర్పునిచ్చిందో కూడా చెప్పబడింది. ఈ AI సిస్టమ్‌తో కొంతకాలం ఇంటరాక్ట్ అయిన తర్వాత, ఈ వ్యక్తుల సమూహం AI యొక్క పక్షపాతాన్ని అంతర్గతీకరించింది మరియు AIతో పరస్పర చర్య చేసే ముందు కంటే ముఖాలు విచారంగా ఉన్నాయని చెప్పే అవకాశం ఉంది. AI మానవ-ఉత్పన్నమైన డేటాసెట్ నుండి పక్షపాతాన్ని నేర్చుకుందని మరియు మరొక సమూహంలోని వ్యక్తుల యొక్క స్వాభావిక పక్షపాతాలను విస్తరించిందని ఇది చూపిస్తుంది.

స్క్రీన్‌పై చుక్కల సమితి కదులుతున్న దిశను అంచనా వేయడం లేదా ముఖ్యంగా ఒక టాస్క్‌పై మరొక వ్యక్తి పనితీరును అంచనా వేయడంతో సహా చాలా భిన్నమైన పనులను ఉపయోగించి చేసిన ప్రయోగాలలో పరిశోధకులు ఇలాంటి ఫలితాలను కనుగొన్నారు. పక్షపాత AI వ్యవస్థ (ఇది ఇప్పటికే ఉన్న అనేక AIల యొక్క పక్షపాతాలను అనుకరించడానికి స్వాభావిక లింగ పక్షపాతంతో సృష్టించబడింది). పాల్గొనేవారికి సాధారణంగా AI ప్రభావం ఎంత ఉందో తెలియదు.

ప్రజలు మరొక వ్యక్తితో సంభాషిస్తున్నారని తప్పుగా చెప్పబడినప్పుడు, కానీ వాస్తవానికి AIతో సంభాషిస్తున్నారని, వారు పక్షపాతాలను కొంతవరకు అంతర్గతీకరించారు, కొన్ని పనులలో AI మానవుడి కంటే చాలా ఖచ్చితమైనదని ప్రజలు ఆశించడం వల్ల కావచ్చునని పరిశోధకులు అంటున్నారు. .

పరిశోధకులు విస్తృతంగా ఉపయోగించే ఉత్పాదక AI సిస్టమ్, స్టేబుల్ డిఫ్యూజన్‌తో ప్రయోగాలు కూడా నిర్వహించారు. ఒక ప్రయోగంలో, పరిశోధకులు ఆర్థిక నిర్వాహకుల ఫోటోలను రూపొందించమని AIని ప్రేరేపించారు, ఇది పక్షపాత ఫలితాలను అందించింది, ఎందుకంటే శ్వేతజాతీయులు వారి వాస్తవ వాటా కంటే ఎక్కువగా ప్రాతినిధ్యం వహించారు. వారు అధ్యయనంలో పాల్గొనేవారిని హెడ్‌షాట్‌ల శ్రేణిని వీక్షించాలని మరియు AI ద్వారా రూపొందించబడిన చిత్రాలను ప్రదర్శించడానికి ముందు మరియు తర్వాత ఆర్థిక మేనేజర్‌గా ఉండే అవకాశం ఉన్న వ్యక్తిని ఎంచుకోవాలని కోరారు. మునుపటి కంటే స్టేబుల్ డిఫ్యూజన్ ద్వారా రూపొందించబడిన చిత్రాలను వీక్షించిన తర్వాత, శ్వేతజాతీయుడు ఆర్థిక మేనేజర్‌గా ఉండే అవకాశం ఉందని సూచించడానికి పాల్గొనేవారు మరింత ఎక్కువ మొగ్గు చూపుతున్నారని పరిశోధకులు కనుగొన్నారు.

సహ-ప్రధాన రచయిత డాక్టర్ మోషే గ్లిక్‌మాన్ (UCL సైకాలజీ & లాంగ్వేజ్ సైన్సెస్ మరియు మాక్స్ ప్లాంక్ UCL సెంటర్ ఫర్ కంప్యూటేషనల్ సైకియాట్రీ అండ్ ఏజింగ్ రీసెర్చ్) ఇలా అన్నారు: “పక్షపాతం గల వ్యక్తులు పక్షపాత AI లకు దోహదం చేయడమే కాకుండా, పక్షపాత AI వ్యవస్థలు ప్రజల స్వంత నమ్మకాలను మార్చగలవు. AI సాధనాలను ఉపయోగించడం సామాజిక నుండి డొమైన్‌లలో మరింత పక్షపాతంగా మారవచ్చు ప్రాథమిక అవగాహనకు తీర్పులు.

“ముఖ్యమైనది, అయితే, ఖచ్చితమైన AIలతో పరస్పర చర్య చేయడం వలన ప్రజల తీర్పులు మెరుగుపడతాయని మేము కనుగొన్నాము, కాబట్టి AI వ్యవస్థలు నిష్పక్షపాతంగా మరియు సాధ్యమైనంత ఖచ్చితమైనవిగా ఉండేలా మెరుగుపరచడం చాలా అవసరం.”

ప్రొఫెసర్ షారోట్ జోడించారు: “AI సిస్టమ్‌లను రూపొందించడంలో అల్గారిథమ్ డెవలపర్‌లకు గొప్ప బాధ్యత ఉంది; AI మన జీవితంలోని అనేక అంశాలలో ఎక్కువగా ప్రబలంగా మారుతున్నందున AI పక్షపాతాల ప్రభావం తీవ్ర ప్రభావాలను కలిగి ఉంటుంది.”