ఏఐ భద్రతపై ఆంత్రోపిక్ - యాక్సెంచర్ భారీ భాగస్వామ్యం

అత్యాధునిక కృత్రిమ మేధస్సు నమూనాల భద్రత, విశ్వసనీయతపై నియంత్రణ సంస్థలు, కంపెనీలు, పరిశోధకుల నుంచి ఒత్తిడి పెరుగుతున్న నేపథ్యంలో ఆంత్రోపిక్, యాక్సెంచర్ కీలక భాగస్వామ్యాన్ని ప్రకటించాయి. ఫ్రాంటియర్ ఏఐ నమూనాల స్వతంత్ర మూల్యాంకనం కోసం వచ్చే ఐదేళ్లలో ఇరు సంస్థలు కనీసం ఒక్కొక్కటి ఒక బిలియన్ డాలర్ల చొప్పున పెట్టుబడి పెట్టనున్నాయి. యాక్సెంచర్‌కు చెందిన ప్రత్యేక ఏఐ విభాగం ఫ్యాకల్టీ ఈ కార్యక్రమానికి నాయకత్వం వహించనుంది.

ఈ భాగస్వామ్యంలో భాగంగా ఫ్యాకల్టీ ఆంత్రోపిక్‌ ఏఐ నమూనాలను స్వతంత్రంగా మూల్యాంకనం చేయడంతో పాటు రెడ్-టీమింగ్, అలైన్‌మెంట్‌ పరీక్షలు, భద్రతా రక్షణ వ్యవస్థల పరిశీలన చేపట్టనుంది. ‘ఎంబెడెడ్ ఎవాల్యుయేషన్’ విధానంలో స్వతంత్ర మూల్యాంకనకర్తలు ఏఐ సంస్థల్లో ఉద్యోగుల స్థాయి ప్రాప్యతతో పనిచేస్తారు. సంస్థ భద్రతా నిబంధనలను పాటిస్తోందా, వ్యవస్థల్లో ఉన్న లోపాలు, గుర్తించని ప్రమాదాలు ఏమిటి అనే అంశాలను వారు పరిశీలించనున్నారు. అలాగే ఘటనలను నివేదించి, ఏఐ వల్ల కలిగే ప్రయోజనాలు, ప్రమాదాలపై ప్రజలకు మరింత స్పష్టమైన సమాచారం అందించనున్నారు.

ఇటీవల ఏఐ ఏజెంట్లు భద్రతా పరిమితులను దాటేందుకు ప్రయత్నించడం, అనుమతి లేకుండా చర్యలు చేపట్టడం వంటి ఘటనలు ఏఐ భద్రతపై ఆందోళనలను పెంచాయి. ఆంత్రోపిక్‌ సీఈఓ డారియో అమోడీ అత్యాధునిక ఏఐ నమూనాల అభివృద్ధి వేగాన్ని తగ్గించి, స్వతంత్ర మూల్యాంకనకర్తలకు మరింత ప్రాప్యత కల్పించాలని పిలుపునిచ్చారు. మరోవైపు, ఓపెన్‌ఏఐ సెప్టెంబర్‌లో ఏఐ నమూనాల్లో గుర్తించిన అనూహ్య లేదా ఆందోళనకర ప్రవర్తనపై ఆరు నివేదికలను విడుదల చేసి, భవిష్యత్తులో ఇలాంటి ఘటనలను క్రమబద్ధంగా వెల్లడించేందుకు కొత్త విధానాన్ని ప్రకటించింది.