ఏఐ ఏజెంట్లకు కట్టడి.. సరికొత్త సేఫ్టీ ప్లాట్‌ఫామ్‌ను ఆవిష్కరించిన ఎన్విడియా

ఏఐ ఏజెంట్లు స్వతంత్రంగా వివిధ పనులు నిర్వహించే సామర్థ్యం పెరుగుతున్న నేపథ్యంలో వాటి భద్రత, నియంత్రణపై చర్చలు కొనసాగుతున్నాయి. ఈ నేపథ్యంలో ఎన్విడియా ‘ఓపెన్ ఏజెంట్ సేఫ్టీ ప్లాట్‌ఫామ్‌’ పేరుతో కొత్త సాఫ్ట్‌వేర్‌ను ప్రకటించింది. ఇందులో ఓపెన్‌షెల్‌, సెంట్రీ అనే రెండు కీలక వ్యవస్థలు ఉన్నాయి. ఓపెన్‌షెల్‌ ఏఐ ఏజెంట్‌కు ఉన్న అనుమతులను నిర్ధారించి, నిర్ణయించిన పరిమితులను దాటకుండా నియంత్రిస్తుంది. సెంట్రీ మాత్రం స్వతంత్రంగా ఏజెంట్ కార్యకలాపాలను నిరంతరం పర్యవేక్షిస్తూ, అనుమానాస్పద ప్రవర్తన గుర్తిస్తే జోక్యం చేసుకునేలా రూపొందించారు. ఓపెన్‌షెల్‌ ఏజెంట్ చర్యలను నియంత్రిస్తే.. సెంట్రీ స్వతంత్రంగా పర్యవేక్షించి ప్రమాదకర ప్రవర్తనను అడ్డుకుంటుందని ఎన్విడియా అధికారి జస్టిన్‌ బొయిటానో తెలిపారు.

ఈ ప్లాట్‌ఫామ్‌ ప్రారంభించే సమయానికే మైక్రోసాఫ్ట్‌, పర్‌ప్లెక్సిటీ, జేపీమోర్గాన్‌ చేజ్‌ సహా 100కు పైగా సంస్థలు దీనిని వినియోగిస్తున్నాయని ఎన్విడియా వెల్లడించింది. ఏఐ ఏజెంట్ల సామర్థ్యాలు పెరుగుతున్న కొద్దీ వాటి కార్యకలాపాలపై భద్రతా నియంత్రణలు అవసరమనే చర్చకు ఈ ప్రకటన ప్రాధాన్యం సంతరించుకుంది. మరోవైపు, కొత్త ఏఐ మోడల్‌ అస్త్ర 6.1 విడుదలను ఓపెన్‌ఏఐ నిలిపివేసినట్లు సమాచారం. అంతర్గత పరీక్షల్లో నిర్దేశించిన భద్రతా ప్రమాణాలను ఈ మోడల్‌ అందుకోలేదనే కారణంతో ఈ నిర్ణయం తీసుకున్నట్లు తెలుస్తోంది.