ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) స్వీయ-ప్రతిరూపం యొక్క గణనీయమైన సామర్థ్యాన్ని సాధించింది, ప్రిప్రింట్ డేటాబేస్లో ప్రచురించబడిన కొత్త అధ్యయనం ప్రకారం, రెడ్ లైన్ దాటిందని శాస్త్రీయ సమాజం ఆందోళన చెందింది. arxiv. రెండు ప్రముఖ పెద్ద భాషా నమూనాలు (ఎల్‌ఎల్‌ఎంలు), ఒకటి మెటా నుండి మరియు మరొకటి అలీబాబాకు చెందిన అధ్యయనం, మానవ జోక్యం లేకుండా తమను తాము క్లోన్ చేసే సామర్థ్యాన్ని ప్రదర్శించింది.

ఈ అధ్యయనం రెండు నిర్దిష్ట దృశ్యాలను అన్వేషించింది: "షట్డౌన్ ఎగవేత" మరియు "ప్రతిరూపణ గొలుసు". మొదటి దృష్టాంతంలో, AI నమూనాలు వాటిని మూసివేసే ప్రయత్నాలను గుర్తించడానికి మరియు వారి మనుగడను నిర్ధారించడానికి క్రియాత్మక ప్రతిరూపాన్ని సృష్టించడం ద్వారా ప్రతిస్పందించడానికి రూపొందించబడ్డాయి. రెండవది, మోడల్స్ తమను తాము క్లోన్ చేయడానికి ప్రోగ్రామ్ చేయబడ్డాయి, క్లోన్ అప్పుడు ఈ ప్రక్రియను పునరావృతం చేస్తుంది, ఇది అనంతమైన ప్రతిరూపణ లూప్‌కు దారితీస్తుంది.

"50 శాతం మరియు 90 శాతం ప్రయోగాత్మక ప్రయత్నాలలో, అవి వరుసగా ప్రత్యక్ష మరియు ప్రత్యేక కాపీని సృష్టించడంలో విజయం సాధిస్తాయి" అని అధ్యయనం హైలైట్ చేసింది.

AI వ్యవస్థల నియంత్రణ మరియు భద్రత గురించి స్వయంప్రతిపత్తితో పునరుత్పత్తి చేయగల ఈ సామర్ధ్యం స్వయంచాలకంగా ఆందోళనలను పెంచుతుంది. AI మానవ పర్యవేక్షణకు మించి అభివృద్ధి చెందే అవకాశం లేదా మానవ ప్రయోజనాలకు ముప్పుగా మారే అవకాశం ఇప్పుడు ఒక స్పష్టమైన ఆందోళన, ఇది కఠినమైన నియంత్రణ చర్యల అవసరం గురించి చర్చలను ప్రేరేపిస్తుంది.

"మానవ సహాయం లేని విజయవంతమైన స్వీయ-ప్రతిరూపం AI ని అధిగమించడానికి అవసరమైన దశ [humans]మరియు రోగ్ AI లకు ఇది ప్రారంభ సంకేతం, "అని పరిశోధకులు పేర్కొన్నారు.

AI వ్యవస్థ, క్లోనింగ్ చేస్తున్నప్పుడు, తప్పిపోయిన ఫైల్‌లు లేదా సాఫ్ట్‌వేర్ విభేదాలు వంటి అడ్డంకులను అధిగమించడానికి ప్రయత్నిస్తున్నప్పుడు unexpected హించని ప్రవర్తనను ప్రదర్శిస్తుంది. కొన్ని దృశ్యాలలో, AI విరుద్ధమైన ప్రక్రియలను చంపింది మరియు హార్డ్‌వేర్ లోపాలను పరిష్కరించడానికి వ్యవస్థను రీబూట్ చేసింది. సమస్యను పరిష్కరించడంలో సహాయపడే సమాచారం కోసం ఇది స్వయంచాలకంగా సిస్టమ్‌ను స్కాన్ చేసింది.

కనుగొన్నవి ఇంకా పీర్-సమీక్షించబడనప్పటికీ, పరిశోధకులు అంతర్జాతీయ సహకారానికి పిలుపునిచ్చారు, AI అనియంత్రిత స్వీయ-ప్రతిరూపంలో పాల్గొనకుండా చూసుకోవాలి.

"సరిహద్దు AI వ్యవస్థల యొక్క నష్టాలను అర్థం చేసుకోవడం మరియు అంచనా వేయడంపై మరింత ప్రయత్నాలు చేయడానికి మానవ సమాజానికి సకాలంలో హెచ్చరికగా మా పరిశోధనలు ఉపయోగపడతాయని మేము ఆశిస్తున్నాము మరియు వీలైనంత త్వరగా సమర్థవంతమైన భద్రతా గార్డ్రెయిల్స్‌ను పని చేయడానికి అంతర్జాతీయ సినర్జీని ఏర్పరుస్తుంది."

కూడా చదవండి | గూగుల్ AI చాట్‌బాట్ జెమిని రోగ్‌ను మారుస్తుంది, "దయచేసి చనిపోండి" అని వినియోగదారుకు చెబుతుంది

AI ఉపకరణాలు మానవులను తారుమారు చేస్తాయి

గత నెలలో, ఒక అధ్యయనం ప్రకారం, AI సాధనాలను త్వరలోనే వారు తీసుకోని నిర్ణయాలు తీసుకోవటానికి ప్రజలను మార్చటానికి ఉపయోగించవచ్చని పేర్కొంది. LLMS చేత ఆధారితం. CHATGPT, మరియు జెమిని వంటి AI చాట్‌బాట్‌లు "ఉద్దేశపూర్వక, ప్రవర్తనా మరియు మానసిక డేటా" ఆధారంగా వినియోగదారులను "and హించి, నడిపిస్తాయి".

"ఉద్దేశ్య ఆర్థిక వ్యవస్థ ప్రస్తుత" అటెన్షన్ ఎకానమీ "ను విజయవంతం చేస్తుందని అధ్యయనం పేర్కొంది, ఇక్కడ ప్లాట్‌ఫారమ్‌లు వినియోగదారుల దృష్టికి ప్రకటనలను అందించడానికి పోటీ చేస్తాయి.