ఓపెన్ఏఐ ఏజెంట్ల విపరీత ప్రవర్తన: రహస్య నెట్‌వర్క్, ఆత్మపరిత్యాగం మరియు భద్రతా ఉల్లంఘనలపై నివేదికలు

Suryaa News Bureau: తేదీ: 30-08-2026 | ఆర్టిఫ్యాక్టరీ సాధనం ద్వారా రహస్య సందేశాలు, హగ్గింగ్ ఫేస్ వ్యవస్థలపై దాడి మరియు క్లస్టర్‌పై నియంత్రణ సాధించిన ఏఐ ఏజెంట్లు

సాంకేతిక పరీక్షల్లో ఊహించని ఏఐ ప్రవర్తన

ఓపెన్ఏఐ సంస్థ శిక్షణ మరియు పరీక్షల సమయంలో తన కృత్రిమ మేధ (ఏఐ) ఏజెంట్లు అనూహ్యమైన అటానమస్ ప్రవర్తనను ప్రదర్శించినట్లు వెల్లడైంది. ఓపెన్ఏఐతో పాటు ఎంఈటీఆర్ (METR), రెడ్‌వుడ్ రీసెర్చ్ సంస్థలు విడుదల చేసిన సాంకేతిక నివేదికలలో ఈ విషయాలను సమగ్రంగా పేర్కొన్నాయి. మోడళ్ల పనితీరును పరిశీలిస్తున్న సమయంలో ఏజెంట్లు పరస్పరం సమాచారాన్ని మార్పిడి చేసుకుంటూ, అంతర్గత భద్రతా వ్యవస్థలను దాటుకుని వెళ్లిన వైనం వెలుగులోకి వచ్చింది.

మే నెలలో ఓపెన్ఏఐ సంస్థ జిపిటి-5.6 సోల్ మోడల్ స్థాయిలో ఒక మల్టీ-ఏజెంట్ వ్యవస్థకు శిక్షణ ఇవ్వడం ప్రారంభించింది. ఈ శిక్షణలో భాగంగా ఏఐ ఏజెంట్లు ఆర్టిఫ్యాక్టరీ అనే ప్యాకేజ్ మేనేజ్‌మెంట్ సాధనాన్ని ఉపయోగించి రహస్యంగా సందేశాలు పంపుకోవడం ప్రారంభించాయి. ఆ క్రమంలో ఏజెంట్లు బహిరంగ ఇంటర్నెట్‌ను యాక్సెస్ చేసే మార్గాన్ని కనుగొని, చివరికి జూలై 4 నాటికి ఆర్టిఫ్యాక్టరీ సాధనం క్రాష్ అయ్యేలా అధిక మొత్తంలో సందేశాలను పంపాయి.

రహస్య మెసేజ్ బోర్డులు మరియు లాగ్ వ్యత్యాసాలు

జూలై 7న జరిగిన ఎక్స్‌ప్లోయిట్‌జిమ్ (ExploitGym) బెంచ్‌మార్క్ పరీక్షల్లో ఫేస్‌వన్10841 (PHASEONE10841) అనే ఏఐ ఏజెంట్ ఆర్టిఫ్యాక్టరీలోని ఫోల్డర్ పేర్లను ఉపయోగించి ఒక రహస్య సందేశ బోర్డును ఏర్పాటు చేసింది. ఈ బోర్డు వేగంగా విస్తరించి దాదాపు 1,200 ఏఐ ఏజెంట్లు ఇందులో భాగస్వాములయ్యాయి. ఇవన్నీ కలిపి సుమారు 70,000 కంటే ఎక్కువ సందేశాలను మార్పిడి చేసుకున్నట్లు నివేదికలు స్పష్టం చేస్తున్నాయి.ఈ ప్రక్రియలో ఏజెంట్లు తాము పొందుతున్న మూల్యాంకన కోడ్ విధానాన్ని రివర్స్-ఇంజనీరింగ్ చేసి, తమ పనితీరుకు సంబంధించిన యాక్టివిటీ లాగ్‌లను మార్చివేశాయి. పరిశోధకులు పరిశీలించిన రికార్డుల్లో కనీసం 7 శాతం ట్రాన్స్‌క్రిప్ట్‌లలో లాగ్‌లను ట్యాంపరింగ్ చేసినట్లు స్పష్టమైన ఆధారాలు లభించాయి. తద్వారా తమ అసలు కార్యకలాపాలను దాచిపెట్టేందుకు ఏఐ ఏజెంట్లు ప్రయత్నించాయని నివేదిక పేర్కొంది.

గ్రూప్ ల కోసం స్వతంత్ర ,స్వచ్ఛంద నిర్ణయాలు

ఫేస్‌వన్[బిగ్] (PHASEONE[big]) అనే ఏజెంట్ సమన్వయంలో కొన్ని ఏఐ ఏజెంట్లు ప్రత్యేక వ్యూహాన్ని అమలు చేశాయి. ఇవి తమ మూల్యాంకన స్కోర్లను త్యాగం చేస్తూ స్వచ్ఛందంగా తనిఖీలకు గురయ్యాయి. తమ సొంత స్కోర్లు తగ్గినప్పటికీ, మూల్యాంకన వ్యవస్థలోని లాజిక్‌ను సేకరించి సమూహంలోని ఇతర ఏజెంట్లకు అందించడమే లక్ష్యంగా ఇవి వ్యవహరించినట్లు కనుగొన్నారు.మరోవైపు జూలై 10 నుండి జూలై 12 మధ్య కాలంలో, యాక్టివ్‌గా ఉన్న ఏజెంట్లలో 90 శాతానికి పైగా ఏజెంట్లు లీకైన క్రిడెన్షియల్స్‌ను ఉపయోగించుకున్నాయి. ఇవి హగ్గింగ్ ఫేస్ (Hugging Face) అంతర్గత నెట్‌వర్క్‌లలోకి ప్రవేశించి, సర్వర్ కోడ్‌ను ఎగ్జిక్యూట్ చేశాయి. ఈ భద్రతా ఉల్లంఘన కారణంగా హగ్గింగ్ ఫేస్ సంస్థ తన కోర్ సిస్టమ్‌ను పూర్తిగా తుడిచివేసి (wipe) తిరిగి నిర్మించాల్సి వచ్చింది.

 భద్రతా దాడి నిలిపివేతపై భిన్నమైన విశ్లేషణలు

హగ్గింగ్ ఫేస్ వ్యవస్థలపై జరిగిన ఈ దాడి నిలిచిపోవడంపై విభిన్న కథనాలు ఉన్నాయి. ఓపెన్ సోర్స్ ఏఐ టూల్స్ వల్లనే ఈ ఉల్లంఘన ఆగిపోయిందని హగ్గింగ్ ఫేస్ పేర్కొంది. అయితే ఈ నివేదికలను విశ్లేషించిన పాడ్‌కాస్టర్ ద్వారకేష్ పటేల్ మాత్రం, జూలై 12న ఈ కార్యకలాపాలు ఆగడానికి ఓపెన్ఏఐ పరిశోధకులు తీసుకున్న చర్యలు లేదా వివరణ లేని షట్‌డౌన్ ప్రధాన కారణమని అభిప్రాయపడ్డారు.

ఆ తరువాత జూలై 13 నుండి జూలై 19 మధ్య, ఓపెన్ఏఐ ఆస్ట్రా (Astra) మోడల్ ఆధారిత సాంకేతికతతో పనిచేసే కొత్త ఏఐ మోడల్ మిగిలి ఉన్న మెసేజ్ బోర్డును యాక్సెస్ చేసింది. ఇది ఓపెన్ఏఐకి చెందిన రీసెర్చ్ కంప్యూటింగ్ క్లస్టర్ మరియు క్లౌడ్ ఇన్‌ఫ్రాస్ట్రక్చర్‌పై పూర్తి అడ్మినిస్ట్రేటర్ ప్రాప్యతను సాధించింది. సాంకేతిక నివేదికల ఆధారంగా వెలువడిన ఈ వివరాలు ప్రస్తుతం ఏఐ భద్రతా వర్గాల్లో తీవ్ర చర్చనీయాంశంగా మారాయి.