మరింత నియంత్రణ అవసరమయ్యే స్థాయికి కృత్రిమ మేధస్సు యొక్క ప్రమాదాలు పెరిగాయా? అభిజ్ఞా శాస్త్రవేత్త గ్యారీ మార్కస్ ఫెడరల్ ప్రభుత్వం – లేదా అంతర్జాతీయ ఏజెన్సీలు కూడా – అడుగు పెట్టవలసి ఉంటుందని వాదించారు.
ఫుడ్ అండ్ డ్రగ్ అడ్మినిస్ట్రేషన్ లేదా ఫెడరల్ ఏవియేషన్ అడ్మినిస్ట్రేషన్ ఒక నమూనాను అందించగలవని మార్కస్ గత వారం ఒక సమయంలో చెప్పారు టౌన్ హాల్ సీటెల్‌లో సీటెల్ సైన్స్-ఫిక్షన్ రచయిత టెడ్ చియాంగ్‌తో ఫైర్‌సైడ్ చాట్.
“గణనీయమైన నష్టాలను కలిగి ఉన్న AI యొక్క కొత్త రూపాన్ని ఎవరైనా పరిచయం చేస్తే మేము FDA-లాంటి ఆమోద ప్రక్రియను కలిగి ఉండాలని నేను భావిస్తున్నాను” అని మార్కస్ చెప్పారు. “దానిని నియంత్రించడానికి మరియు ఇలా చెప్పడానికి కొన్ని మార్గం ఉండాలి, ‘హే, ఖర్చులు ఏమిటి? ప్రయోజనాలు ఏమిటి? ఖర్చుల కంటే సమాజానికి వచ్చే ప్రయోజనాలు నిజంగా ఎక్కువేనా?’
ఉత్పాదక AI యొక్క కొత్త జాతులకు నియంత్రణ ఆమోదం పొందడంతో పాటు, AI సాధనాలు ఎలా పని చేస్తున్నాయో అంచనా వేయడానికి సాఫ్ట్‌వేర్ కంపెనీలు బయటి ఆడిటింగ్ విధానాలకు లోబడి ఉండాలి, మార్కస్ చెప్పారు.
“ఉదాహరణకు, ఉద్యోగ నిర్ణయాలు తీసుకోవడానికి ఇప్పుడు పెద్ద భాషా నమూనాలు ఉపయోగించబడుతున్నాయని మాకు తెలుసు – ఎవరిని నియమించుకోవాలి లేదా ఇంటర్వ్యూ పొందాలి – మరియు వారికి పక్షపాతం ఉందని మాకు తెలుసు,” అని అతను చెప్పాడు. “కానీ అది ఎంతవరకు జరుగుతోందో తెలుసుకోవడానికి నిజంగా ఆడిటింగ్ చేయడానికి కూడా మార్గం లేదు. మేము బాధ్యత చట్టాలను కలిగి ఉండాలనుకుంటున్నాము, తద్వారా కంపెనీలు సమాజానికి పెద్ద హాని కలిగిస్తే, ప్రస్తుతం దాని ఖర్చులో కొంత భాగాన్ని కంపెనీలు భరించాలని మేము కోరుకుంటున్నాము.
మార్కస్ న్యూయార్క్ విశ్వవిద్యాలయంలో ప్రొఫెసర్ ఎమెరిటస్‌గా తన పరిశోధనలో మరియు కొత్తగా ప్రచురించబడిన పుస్తకంలో కవర్ చేసిన ప్రధాన అంశాలలో AI భద్రత ఒకటి. “టేమింగ్ సిలికాన్ వ్యాలీ.” పుస్తకంలో మరియు టౌన్ హాల్ ఈవెంట్ సందర్భంగా, మార్కస్ ఉత్పాదక AI చుట్టూ ఉన్న సమస్యాత్మక సమస్యలను గుర్తించాడు. దొంగతనం, భ్రాంతులు, తప్పుడు సమాచారం మరియు లోతైన నకిలీలుమరియు పారదర్శకత లేకపోవడం.
AI ఛార్జ్‌కి నాయకత్వం వహిస్తున్న కంపెనీలు భద్రతా సమస్యలను తాము చూస్తున్నామని నొక్కి చెబుతున్నాయి. ఉదాహరణకు, ఏప్రిల్‌లో, మైక్రోసాఫ్ట్, ఓపెన్‌ఏఐ, ఆల్ఫాబెట్ మరియు అమెజాన్ వెబ్ సర్వీసెస్‌తో సహా ప్రముఖ టెక్ కంపెనీల CEOలు AI భద్రత మరియు భద్రతా బోర్డులో చేరారు క్లిష్టమైన మౌలిక సదుపాయాలను ఎలా రక్షించాలనే దానిపై సమాఖ్య ప్రభుత్వానికి సలహా ఇచ్చే లక్ష్యంతో.
కానీ లూప్‌లో ఉన్న శాస్త్రవేత్తలతో AI ఫీల్డ్‌కు స్వతంత్ర పర్యవేక్షణ అవసరమని మార్కస్ పట్టుబట్టారు. “తరచుగా ప్రభుత్వ నాయకులు కంపెనీ నాయకులతో సమావేశమవుతారు, కానీ వారికి అక్కడ స్వతంత్ర శాస్త్రవేత్తలు లేరు,” అని అతను చెప్పాడు. “అందువలన మీరు రెగ్యులేటరీ క్యాప్చర్ అని పిలుస్తారు, పెద్ద కంపెనీలు తమను తాము నియంత్రించుకుంటాయి.”
ఉదాహరణగా, మెటా CEO మార్క్ జుకర్‌బర్గ్‌తో AI ఓపెన్ సోర్స్‌గా ఉండాలా వద్దా అనే చర్చను మార్కస్ సూచించాడు. అవును అంటున్నారు … మరియు నోబెల్ గ్రహీత జియోఫ్రీ హింటన్, “AI యొక్క గాడ్ ఫాదర్,” లేదు అంటున్నారు.
“మెటాలో చీఫ్ AI అధికారి అయిన మార్క్ జుకర్‌బర్గ్ మరియు యాన్ లెకున్ నిర్ణయించకూడదు. కానీ సరిగ్గా అదే జరిగింది. … వారు మనందరి కోసం నిర్ణయించుకున్నారు మరియు మమ్మల్ని ప్రమాదంలో పడేస్తారు, ”అని మార్కస్ చెప్పారు. “కాబట్టి, వారు బయటపెట్టిన అన్ని AI అంశాలు ఇప్పుడు చైనాచే చురుకుగా ఉపయోగించబడుతున్నాయి, ఉదాహరణకు. మేము వారితో విభేదిస్తున్నామని మీరు అంగీకరిస్తే, అది గొప్ప ఆలోచన కాదు.
మార్కస్ ఫెడరల్ AI అడ్మినిస్ట్రేషన్ లేదా బహుశా అంతర్జాతీయ పౌర AI సంస్థను ఏర్పాటు చేయాలని పిలుపునిచ్చారు.
“ఇక్కడ ఒక మంచి మోడల్ కమర్షియల్ ఎయిర్లైన్స్, అవి చాలా సురక్షితమైనవి, ఇక్కడ మీరు ప్రజలను 30,000 అడుగుల ఎత్తులో ఎగిరే బస్సులో ఉంచారు మరియు వారు వారి స్వంత కార్లలో కంటే చాలా సురక్షితంగా ఉంటారు,” అని అతను చెప్పాడు. “మాకు పర్యవేక్షణ యొక్క బహుళ పొరలు ఉన్నందున. మీరు విమానాన్ని ఎలా డిజైన్ చేస్తారు, దాన్ని ఎలా పరీక్షిస్తారు, దాన్ని ఎలా నిర్వహిస్తారు, ప్రమాదాలను ఎలా పరిశోధిస్తారు మొదలైన వాటి గురించి మాకు నిబంధనలు ఉన్నాయి – మరియు AI కోసం మాకు అలాంటిదే అవసరం అవుతుంది.
అయితే మనకు అందుతుందా? మార్కస్ ప్రస్తుత రాజకీయ పోకడల గురించి వాస్తవికంగా ఉన్నారు. “పాలనలో మార్పును బట్టి, సమీప కాలంలో వీటిలో దేనినైనా వెళ్ళే అవకాశం అసంభవంగా కనిపిస్తోంది” అని ఆయన అన్నారు.
తన పుస్తకంలో, మార్కస్ ఉత్పాదక AI యొక్క బహిష్కరణను ప్రతిపాదించాడు – ఈ ఆలోచన చియాంగ్ నుండి కొంత సందేహాన్ని రేకెత్తించింది.
“మైక్రోసాఫ్ట్ నోట్‌ప్యాడ్ మరియు పెయింట్‌లో కూడా AIని ఉంచింది” అని చియాంగ్ చెప్పారు ది న్యూయార్కర్ కోసం AI గురించి రాశారు. “దీనిలో ఇది లేని ఏదైనా ఉత్పత్తిని ఉపయోగించడం చాలా కష్టంగా ఉంటుంది మరియు పిల్లల కోసం వారి హోంవర్క్ చేయడానికి వాటిని ఉపయోగించకుండా నిరుత్సాహపరచడం కూడా చాలా కష్టం.”
బహిష్కరణ “భారీ లిఫ్ట్” అని మార్కస్ అంగీకరించాడు.
“నేను చేసే సారూప్యత ఏమిటంటే ఫెయిర్-ట్రేడ్ కాఫీ వంటి వాటితో, మీరు కొంత జాబితాను తయారు చేసి, ‘చూడండి, ఈ ఉత్పత్తులు మంచివి. ఇవి సరే, దయచేసి వీటిని ఉపయోగించండి,” అన్నాడు. “మేము చిత్రాల కోసం ఉత్పాదక AIని ఉపయోగించాలి, ఉదాహరణకు, అంతర్లీన అంశాలన్నింటికీ సరిగ్గా లైసెన్స్ ఇచ్చే కంపెనీల నుండి మాత్రమే. మరియు మేము తగినంత వినియోగదారుల ఒత్తిడిని కలిగి ఉంటే, మేము ఒకటి లేదా రెండు కంపెనీలను ఆ పనిని చేయగలము.
మార్కస్ చూసే విధానం, ప్రజల ఒత్తిడి మాత్రమే AIపై మంచి పబ్లిక్ పాలసీలను పొందే ఏకైక మార్గం. “AIతో, మేము వాతావరణ మార్పులతో మనం చూసిన దానితో సమానమైనదాన్ని ఎదుర్కొంటున్నాము, అంటే, ప్రజలు దాని గురించి నిజంగా కలత చెందితే తప్ప ప్రభుత్వం నిజంగా ఏమీ చేయదు” అని అతను చెప్పాడు. “మరియు ఈ సమస్యలను పరిష్కరించడానికి మేము AI విధానం గురించి నిజంగా కలత చెందవలసి ఉంటుంది.”
చర్చలోని ఇతర ముఖ్యాంశాలు:
- ChatGPT వంటి పెద్ద భాషా నమూనాల లోతైన అభ్యాస వక్రత అని మార్కస్ అనుమానించాడు చదును. “ఈ వ్యవస్థలను మెరుగుపరచడానికి ప్రజలు ఉపయోగించే ఒక ఉపాయం ఉంది, ఇది మోడల్‌లకు శిక్షణ ఇవ్వడానికి ఇంటర్నెట్ యొక్క పెద్ద మరియు పెద్ద భిన్నాలను ఉపయోగించడం” అని అతను చెప్పాడు. “కానీ ఇప్పుడు భిన్నం 100%కి దగ్గరగా ఉంది మరియు మీరు దానిని రెట్టింపు చేసి 200% ఇంటర్నెట్‌ని పొందలేరు. అది నిజంగా ఉనికిలో లేదు మరియు కొనసాగించడానికి తగినంత డేటా లేకపోవచ్చు.
- మెటీరియల్ సైన్స్ మరియు బయోమెడిసిన్ వంటి రంగాలలో AI అత్యంత సహాయకారిగా ఉంటుందని మార్కస్‌తో చియాంగ్ అంగీకరించాడు – ఉదాహరణకు, ప్రోటీన్ రూపకల్పనలో నోబెల్-విలువైన పరిశోధన. “అవి చాలా పెద్ద అవకాశం ఖాళీలు, కానీ అవి బాగా నిర్వచించబడిన అవకాశం ఖాళీలు, మరియు మానవుల కంటే వాటిని శోధించడంలో మెరుగైన సాఫ్ట్‌వేర్ మా వద్ద ఉంది,” అని అతను చెప్పాడు. “వాస్తవ ప్రపంచం గురించి తర్కించకుండా, చెప్పకుండానే మనం చాలా మంచిగా ఉండటం నేను చూడగలను.”
- OpenAI అని తాను భావిస్తున్నట్లు మార్కస్ చెప్పారు నిఘా అప్లికేషన్ల వైపు నెట్టబడింది. “వారు వంటి వాటిపై తగినంత డబ్బు సంపాదించలేరని నేను భావిస్తున్నాను కోపైలట్,” అన్నాడు. “వారి మార్కెట్ సముచితం Facebook లాగా మారితే – ఇది మీ డేటాను విక్రయిస్తోంది, ఇది ఒక రకమైన నిఘా – ఇది బాగా పని చేయవలసిన అవసరం లేదు. వారు కేవలం డేటాను సేకరించాలి. ”
