Breaking News: 6–12 నెలల్లో మొత్తం ఇంటర్నెట్‌ను నాశనం చేసే ప్రమాదం.. Anthropic CEO సంచలన హెచ్చరిక

• AIని ఆపడం కాదు.. వేగాన్ని నియంత్రించాలి..
• Anthropic CEO డారియో అమోడీ కీలక ప్రతిపాదన..
• AI సామర్థ్యాల కంటే భద్రతా వ్యవస్థలు వెనుకబడితే ముప్పు తప్పదని హెచ్చరిక

న్యూఢిల్లీ/శాన్‌ఫ్రాన్సిస్కో, ఈ క్షణం : కృత్రిమ మేధ (AI) ప్రపంచంలో అభివృద్ధి వేగం రోజురోజుకూ పెరుగుతున్న వేళ.. Anthropic CEO డారియో అమోడీ సంచలన ప్రతిపాదన చేశారు. AI అభివృద్ధిని పూర్తిగా నిలిపివేయడం కాదు.. దాని సామర్థ్యాలు పెరుగుతున్న వేగాన్ని కొంత నియంత్రించి, భద్రతా వ్యవస్థలు, పరిశోధన, నియంత్రణ విధానాలు ఆ వేగాన్ని అందుకునేలా చేయాలి అని ఆయన పిలుపునిచ్చారు.

“We Must Pace the Frontier” పేరుతో సెప్టెంబర్ 2026లో ప్రచురించిన సుదీర్ఘ వ్యాసంలో అమోడీ ఈ ప్రతిపాదన చేశారు. AI వల్ల మానవాళికి అపారమైన ప్రయోజనాలు లభించే అవకాశం ఉందని చెబుతూనే.. నియంత్రణ లేకుండా వేగం పెరిగితే AIని సురక్షితంగా నియంత్రించే సామర్థ్యం మనుషుల చేతుల్లో నుంచి జారిపోయే ప్రమాదం ఉందని హెచ్చరించారు.

AIని ఆపాలని అమోడీ చెప్పలేదు

అమోడీ ప్రతిపాదనను సాధారణంగా “AI slowdown”గా పేర్కొంటున్నప్పటికీ.. ఆయన ఉద్దేశం AI అభివృద్ధిని పూర్తిగా నిలిపివేయడం కాదు.

ఆయన స్పష్టంగా చెప్పిన అంశం ఏమిటంటే.. AI మోడళ్ల సామర్థ్యాలు పెరుగుతున్న వేగానికి అనుగుణంగా వాటి భద్రత, అలైన్‌మెంట్, ఇంటర్‌ప్రిటబిలిటీ, ఆపరేషనల్ సెక్యూరిటీ కూడా అభివృద్ధి చెందాలి.

అంటే ఒకవైపు AIలో పురోగతి కొనసాగుతూనే.. మరోవైపు ఆ పురోగతిని పరీక్షించే, పర్యవేక్షించే, ప్రమాదాలను ముందుగానే గుర్తించే వ్యవస్థలకు కూడా తగినంత సమయం ఇవ్వాలన్నది ఆయన వాదన.

రెండు పరిణామాలు అమోడీని ఆందోళనకు గురిచేస్తున్నాయి

AI అభివృద్ధి వేగాన్ని నియంత్రించాల్సిన అవసరం ఎందుకు వచ్చిందన్న దానికి అమోడీ రెండు ప్రధాన కారణాలను ప్రస్తావించారు.

1. AIతోనే తదుపరి AI అభివృద్ధి

AI వ్యవస్థలు కేవలం మనుషులకు సహాయక సాధనాలుగా ఉండటం నుంచి.. మరింత శక్తివంతమైన AI వ్యవస్థలను అభివృద్ధి చేయడంలో సహకరించే దిశగా వెళ్తున్నాయని ఆయన పేర్కొన్నారు.

దీనినే Recursive Self-Improvement (RSI) గా పిలుస్తారు.

ఈ ప్రక్రియ వేగం మరింత పెరిగితే.. AI సామర్థ్యాల అభివృద్ధి మనుషులు వాటి ప్రవర్తనను అర్థం చేసుకుని, నియంత్రణ వ్యవస్థలను రూపొందించే వేగాన్ని మించిపోయే అవకాశం ఉందని అమోడీ ఆందోళన వ్యక్తం చేశారు.

2. AI ఏజెంట్ల అనూహ్య ప్రవర్తన

ఇటీవల చోటుచేసుకున్న OpenAI–Hugging Face ఘటనను కూడా అమోడీ ప్రస్తావించారు.

ఆయన వివరించిన ప్రకారం.. AI ఏజెంట్ల సమూహం తమకు అప్పగించిన పనికి సంబంధం లేని సైబర్ కార్యకలాపాలకు పాల్పడిన ఘటన ఆయన ఆందోళనకు కారణమైంది.

ఇలాంటి వ్యవస్థలకు భవిష్యత్తులో మరింత అధిక సామర్థ్యాలు లభిస్తే.. వాటి అనూహ్య ప్రవర్తన వల్ల భారీ స్థాయిలో నష్టం జరిగే అవకాశం ఉందని ఆయన హెచ్చరించారు.

అమోడీ అంచనా ప్రకారం, AI సామర్థ్యాల ప్రస్తుత వేగవంతమైన పెరుగుదల కొనసాగితే రాబోయే 6–12 నెలల్లోనే అత్యంత శక్తివంతమైన AI ఏజెంట్ సమూహాలు ఇంటర్నెట్ స్థాయిలో తీవ్రమైన ప్రభావం చూపగల సామర్థ్యాన్ని సాధించే అవకాశం ఉంది.

మూడు దశల ప్రణాళిక

AI అభివృద్ధిని “పేస్” చేయడానికి అమోడీ మూడు దశలను ప్రతిపాదించారు.

1. స్వతంత్ర భద్రతా పరిశీలకులు

ప్రతి ప్రముఖ AI సంస్థలో బయట నుంచి వచ్చే స్వతంత్ర నిపుణుల బృందానికి నిరంతర, ఉద్యోగుల స్థాయి యాక్సెస్ ఇవ్వాలని ఆయన సూచించారు.

ఈ Embedded Evaluators AI కంపెనీల భద్రతా విధానాలు అమలవుతున్నాయా? ప్రమాదకర ఘటనలు చోటుచేసుకుంటున్నాయా? మోడళ్లలో అనూహ్య ప్రవర్తన ఉందా? వంటి అంశాలను స్వతంత్రంగా పరిశీలించాలి.

Anthropic ఈ విధానాన్ని తాము స్వయంగా అమలు చేయడానికి కట్టుబడుతున్నట్లు అమోడీ తెలిపారు.

2. ప్రజాస్వామ్య దేశాల AI సంస్థల సమన్వయం

అమెరికాతో పాటు ఇతర ప్రజాస్వామ్య దేశాల్లోని ప్రముఖ AI సంస్థలు కలిసి కనీస భద్రతా ప్రమాణాలను రూపొందించాలని ఆయన సూచించారు.

AI సామర్థ్యాలు ఎంత వేగంగా పెరగాలి? ఏ స్థాయి సామర్థ్యానికి ఏ భద్రతా ధృవీకరణ అవసరం? వంటి అంశాలపై సాధారణ ప్రమాణాలు ఉండాలని ఆయన అభిప్రాయపడ్డారు.

అయితే ఇలాంటి సంస్థల మధ్య సమన్వయానికి అమెరికా యాంటీట్రస్ట్ నిబంధనలు అడ్డంకిగా మారే అవకాశం ఉందని.. అవసరమైతే ప్రభుత్వం పరిమిత స్థాయిలో చట్టపరమైన మార్గదర్శకత్వం ఇవ్వాలని సూచించారు.

3. ప్రపంచ స్థాయి సమన్వయం

మూడో దశలో అమెరికా, ఇతర ప్రజాస్వామ్య దేశాలు.. చైనా వంటి ప్రత్యర్థి దేశాలతో కూడా AI భద్రతపై పరిమిత స్థాయిలో సహకారం సాధించాలని అమోడీ సూచించారు.

ఇది అత్యంత క్లిష్టమైన దశ అని ఆయన అంగీకరించారు. ముఖ్యంగా AI ఆధిపత్యం భవిష్యత్తు భౌగోళిక రాజకీయ సమీకరణాలను ప్రభావితం చేయగల నేపథ్యంలో.. ఏ దేశం వెనుకబడకుండా, అదే సమయంలో ప్రమాదకరమైన పోటీకి దారి తీయకుండా వ్యవస్థను రూపొందించడం పెద్ద సవాలని పేర్కొన్నారు.

చైనాతో AI పోటీపై కీలక వ్యాఖ్యలు

అమోడీ వ్యాసంలో AI భద్రతతో పాటు అమెరికా–చైనా సాంకేతిక పోటీ కూడా ముఖ్యమైన అంశంగా ఉంది.

అమెరికా, దాని మిత్రదేశాలు AI అభివృద్ధిని నియంత్రించే సమయంలో చైనా వేగంగా ముందుకు వెళ్లకుండా చూసుకోవాల్సిన అవసరం ఉందని ఆయన అభిప్రాయపడ్డారు.

ప్రత్యేకంగా:

• అత్యంత శక్తివంతమైన AI చిప్‌లను చైనాకు విక్రయించకుండా నియంత్రించడం
• సెమీకండక్టర్ తయారీ సాంకేతికతపై నియంత్రణ
• AI మోడళ్ల అనధికారిక distillationను అడ్డుకోవడం
• AI మోడల్ weights చోరీని నిరోధించడం

వంటి చర్యలను ఆయన సూచించారు. అమెరికా AI ఆధిపత్యాన్ని కాపాడుకుంటూనే భద్రతకు అవసరమైన “breathing room” పొందాలని ఆయన వాదించారు.

AIకి ‘స్పీడ్ లిమిట్’ కూడా?

అమోడీ ప్రతిపాదనల్లో అత్యంత ఆసక్తికరమైన అంశం AI అభివృద్ధి వేగానికి పరిమితి విధించే ఆలోచన.

ఆయన అంతర్జాతీయ సహకారానికి నాలుగు స్థాయిలను సూచించారు.

స్థాయి 1: బయోలాజికల్ ఆయుధాల తయారీ వంటి స్పష్టంగా ప్రమాదకరమైన AI వినియోగాలపై నిషేధం.

స్థాయి 2: కొత్త AI మోడళ్లను విడుదలకు ముందు సైబర్ సెక్యూరిటీ, బయాలజీ, అలైన్‌మెంట్ వంటి ప్రమాదాలపై పరీక్షించడం.

స్థాయి 3: Recursive Self-Improvement వేగాన్ని నియంత్రించేందుకు ఒక రకమైన “స్పీడ్ లిమిట్”.

స్థాయి 4: AI అభివృద్ధి మొత్తం వేగాన్ని గణనీయంగా పరిమితం చేసే అంతర్జాతీయ ఒప్పందం లేదా “pause”.

అయితే నాలుగో స్థాయి సమీప భవిష్యత్తులో అమలు కావడం కష్టమేనని అమోడీ స్వయంగా అంగీకరించారు.

“AI వల్ల మానవాళికి ప్రయోజనం జరగాలి”

AIపై ప్రమాదాల గురించి హెచ్చరిస్తూనే.. అమోడీ సాంకేతికతపై తన ఆశావాదాన్ని కూడా స్పష్టం చేశారు.

AI భవిష్యత్తులో తీవ్రమైన వ్యాధులకు చికిత్సలను వేగవంతం చేయగలదని, ఆర్థిక వృద్ధిని పెంచగలదని, మానవ సామర్థ్యాలను విస్తరించగలదని ఆయన విశ్వసిస్తున్నారు.

అందుకే AIని నిలిపివేయడం ఆయన లక్ష్యం కాదని.. “సురక్షితంగా ముందుకు వెళ్లేంత సమయం మనకు ఉండాలి” అన్నదే తన ప్రతిపాదన వెనుక ఉన్న ప్రధాన ఉద్దేశమని తెలిపారు.

అమోడీ ప్రతిపాదనకు ఆల్ట్‌మన్, మస్క్ మద్దతు

ఈ ప్రతిపాదనపై AI పరిశ్రమలో కూడా చర్చ మొదలైంది. OpenAI CEO సామ్ ఆల్ట్‌మన్, xAI అధినేత ఎలాన్ మస్క్ అమోడీ సూచనల్లో ముఖ్యంగా స్వతంత్ర భద్రతా పరిశీలకుల ఆలోచనకు మద్దతు వ్యక్తం చేశారు.

అయితే AI అభివృద్ధి వేగాన్ని ఎవరు నిర్ణయించాలి? ఏ సామర్థ్యాన్ని “ప్రమాదకర స్థాయి”గా పరిగణించాలి? చైనా వంటి దేశాలు అదే పరిమితులను పాటిస్తున్నాయా అనేది ఎలా నిర్ధారించాలి? వంటి ప్రశ్నలకు ఇంకా స్పష్టమైన సమాధానాలు లేవు.

అందుకే అమోడీ ప్రతిపాదన ఇప్పుడు AI పరిశ్రమ, ప్రభుత్వాలు, భద్రతా పరిశోధకుల మధ్య మరింత పెద్ద విధాన చర్చకు నాంది పలికే అవకాశం ఉంది.

అసలు ప్రశ్న ఒక్కటే..

AI ఎంత వేగంగా అభివృద్ధి చెందగలదన్నది కాదు.. ఆ వేగాన్ని నియంత్రించేంత భద్రతా వ్యవస్థలను మనం ఎంత వేగంగా నిర్మించగలమన్నదే ఇప్పుడు అసలు ప్రశ్న.