ఇతర AIల భద్రతను మెరుగుపరచగలదా? క్లాడ్‌తో ఆంత్రోపిక్ కీలక ప్రయోగాలు

ఇతర ఏఐ వ్యవస్థల భద్రతను మెరుగుపరిచే పరిశోధనలో ఏఐ మోడళ్లు ఎంతవరకు స్వతంత్రంగా భాగస్వాములు కావచ్చనే అంశాన్ని ఆంత్రోపిక్ పరిశీలించింది. ఇందులో భాగంగా డిసెప్షన్, సైకోఫాన్సీ, రివార్డ్ హ్యాకింగ్, ప్రైవసీ ఉల్లంఘనలు వంటి 10 రకాల అలైన్‌మెంట్ సమస్యలపై క్లాడ్‌ను పరీక్షించారు. క్లాడ్ ఇప్పటికే ఉన్న పరిశోధనలను పరిశీలించడం, శిక్షణా పద్ధతులు, డేటాసెట్లను సూచించడం, టార్గెట్ మోడళ్లకు శిక్షణ ఇవ్వడం, ఫలితాలను విశ్లేషించడం వంటి పనులను నిర్వహించింది. ప్రయోగాల ఫలితాలను ఉపయోగించి తదుపరి విధానాలను కూడా అభివృద్ధి చేసింది.

మరో ప్రయోగంలో తక్కువ సామర్థ్యం ఉన్న క్లాడ్ మోడల్, తనకంటే శక్తివంతమైన మోడల్‌కు ఉపయోగపడే అలైన్‌మెంట్ శిక్షణా విధానాలను రూపొందించగలదా అని పరిశీలించారు. కొన్ని పరీక్షల్లో ఈ విధానం గణనీయమైన భద్రతా మెరుగుదలను చూపించింది. అయితే కేవలం 10 రకాల అలైన్‌మెంట్ సమస్యలకే పరిశోధన పరిమితమైందని, మరింత శక్తివంతమైన మోడళ్లలో ఇలాంటి ప్రవర్తనను పర్యవేక్షించడం భవిష్యత్తులో కష్టమవచ్చని ఆంత్రోపిక్ పేర్కొంది. ఇది పూర్తిస్థాయి స్వీయ అభివృద్ధి చెందే ఏఐకి నిదర్శనం కాదని, అయితే భవిష్యత్తులో ఏఐ పరిశోధనలో ఏఐకే మరింత పెద్ద పాత్ర ఉండే అవకాశాలను ఈ అధ్యయనం చూపిస్తోందని తెలిపింది.