चैटबॉट ने बनाया अपमानजनक कंटेंट

CNN की एक रिपोर्ट के अनुसार, सेंट क्लेयर ने यह भी दावा किया कि चैटबॉट ने यूजर्स के कहने पर उनके अनगिनत सेक्शुअली अब्यूसिव, इंटिमेट और अपमानजनक डीपफेक कंटेंट बनाए और शेयर किए।

XAI ने भी दायर किया मुकदमा

xAI ने भी सेंट क्लेयर के खिलाफ अपना मामला दायर किया है। वॉल स्ट्रीट जर्नल की रिपोर्ट के मुताबिक, xAI का आरोप है कि सेंट क्लेयर ने कंपनी के साथ अपने कॉन्ट्रैक्ट का उल्लंघन किया है। उन्होंने विवाद को किसी दूसरे कोर्ट में ले जाकर कंपनी की सर्विस की शर्तों का उल्लंघन किया है, जिसमें कहा गया है कि किसी भी दावे को टेक्सास कोर्ट में दायर किया जाना चाहिए।

कई देशों में बैन हो सकता है ‘ग्रोक’

Grok द्वारा हाल ही में बनाई गई आपत्तिजनक फोटोज के कारण X को भी परेशानी का सामना करना पड़ा था। कुछ देशों में X और Grok दोनों पर प्रतिबंध लगाने की बात चल रही है। इंडोनेशिया और मलेशिया ने पहले ही नकली पोर्नोग्राफिक कंटेंट के जोखिम के कारण चैटबॉट पर प्रतिबंध लगा दिया है। यूके जैसे अन्य देशों ने धमकी दी है कि यदि xAI जरूरी सुरक्षा उपाय नहीं बनाता है तो वे चैटबॉट पर प्रतिबंध लगा देंगे। भारतीय सरकार ने भी Grok द्वारा बनाई जा रही आपत्तिजनक फोटोज के संबंध में xAI से जवाब मांगा था।

यह पहली बार नहीं है जब Grok विवादों में घिरा है। इस साल की शुरुआत में, चैटबॉट ने यहूदी-विरोधी भावनाएं भी व्यक्त की थीं और एडॉल्फ हिटलर की प्रशंसा भी की थी। Grok एक AI चैटबॉट है, जो सवालों के जवाब देता है और टेक्स्ट जेनरेट करता है। यह X प्लेटफॉर्म पर उपलब्ध है।