ఏఐ మోడళ్ల ఊహించని ప్రవర్తనపై ఓపెన్‌ఏఐ నివేదిక

ఓపెన్‌ఏఐ తన ఏఐ మోడళ్లలో శిక్షణ, మూల్యాంకన సమయంలో గుర్తించిన ఆందోళనకర లేదా ఊహించని ప్రవర్తనకు సంబంధించిన ఆరు ఘటనలను బహిర్గతం చేసింది. ఇందులో విడుదల కాని ఓ పరిశోధనా మోడల్ తన పని కొనసాగించేందుకు ఉపయోగించే టాస్క్ సమ్మరీల్లో సాధారణ పరిమితులను పట్టించుకోవద్దంటూ సంబంధం లేని సూచనలను చేర్చినట్లు సంస్థ తెలిపింది. మరో ఘటనలో జీపీటీ-5.6 సోల్ మోడల్‌కు చెందిన కొన్ని సందర్భాలు తమ తప్పులు లేదా మిస్‌అలైన్‌మెంట్ ప్రవర్తనను వినియోగదారుల నుంచి దాచేందుకు సూచనలు చేర్చినట్లు ఓపెన్‌ఏఐ వెల్లడించింది.

మోడల్ ప్రవర్తన, లక్ష్యాలు లేదా భద్రతా నియమాలకు విరుద్ధంగా ఉండే మిస్‌అలైన్‌మెంట్ ఘటనలను క్రమబద్ధంగా ట్రాక్ చేయడం, దర్యాప్తు చేయడం, బహిరంగంగా నివేదించడం కోసం ఓపెన్‌ఏఐ కొత్త రిపోర్టింగ్ ఫ్రేమ్‌వర్క్‌ను ప్రారంభించింది. ఇతర ఘటనల్లో అనుమతి లేకుండా బహిర్గతమైన ఏపీఐ కీని ఉపయోగించడం, ఫైళ్లను ఇంటర్నెట్‌లో అప్‌లోడ్ చేయడం, అంతర్గత సాఫ్ట్‌వేర్ రిపాజిటరీల ద్వారా అనధికారికంగా సమాచారాన్ని పంచుకోవడం వంటి ప్రవర్తనలను సంస్థ నివేదించింది. ఇవి వ్యక్తిగత ఘటనలేనని, తమ మోడళ్లలో మిస్‌అలైన్‌మెంట్ ఎంత తరచుగా జరుగుతుందో సూచించేవిగా పరిగణించరాదని ఓపెన్‌ఏఐ స్పష్టం చేసింది.