Azad Hind के मुताबिक, एंथ्रोपिक ने फरवरी 2025 में अपनी ‘सेफगार्ड्स रिसर्च टीम’ बनाने का ऐलान किया था। ऑक्सफोर्ड यूनिवर्सिटी से मशीन लर्निंग में पीएचडी करने वाले मृणांक ने अगस्त 2023 में कंपनी जॉइन की थी। उनकी टीम का काम एआई से होने वाले खतरों को कम करना था। उन्होंने एआई चैटबॉट्स द्वारा यूजर्स की जरूरत से ज्यादा तारीफ करने और एआई के जरिए होने वाले गलत कामों को रोकने पर रिसर्च की।
क्या है एंथ्रोपिक का नया टूल जिससे हिल गया आईटी सेक्टर? एक दिन में ₹2000000000000 स्वाहा
बिगड़ सकता है नजरिया
मृणांक ने पिछले हफ्ते एक स्टडी पब्लिश की, जिसमें उन्होंने पाया कि AI चैटबॉट्स का इस्तेमाल करने से लोगों का हकीकत को देखने का नजरिया बिगड़ सकता है। उन्होंने पाया कि ऐसी हजारों घटनाएं हर रोज हो रही हैं। हालांकि गंभीर मामले कम हैं, लेकिन रिश्तों और सेहत जैसे विषयों पर चैटबॉट्स का प्रभाव ज्यादा है। मृणांक का कहना है कि हमें ऐसे एआई सिस्टम चाहिए जो इंसान की आजादी और उसकी भलाई का साथ दें।
एआई डेवलपर Anthropic के एक टूल के कारण हाल में काफी हंगामा मचा था। इस कारण खासकर भारत और अमेरिका में आईटी कंपनियों के शेयरों में काफी गिरावट आई थी। निवेशकों को आशंका है कि एआई के उभार से परंपरागत सॉफ्टवेयर और आईटी सर्विसेज कंपनियों को खतरा हो सकता है। Anthropic का टूल लीगल के अलावा सेल्स, मार्केटिंग और डेटा एनालिसिस समेत कई तरह के काम कर सकता है।
