നഗ്നത പ്രദർശിപ്പിക്കുന്ന ചിത്രങ്ങൾ ഇനി Grok സൃഷ്ടിക്കില്ല; 'നിയമലംഘകർക്ക് ശിക്ഷ ഉറപ്പ്'

ഇലോൺ മസ്‌കിന്റെ നിർമ്മിതബുദ്ധി സ്ഥാപനമായ xAI-യുടെ എഐ ചാറ്റ്‌ബോട്ടായ Grok-ന് ഇനി മുതൽ യഥാർത്ഥ വ്യക്തികളുടെ ലൈംഗികച്ചുവയുള്ളതോ അർധനഗ്നത പ്രദർശിപ്പിക്കുന്നതോ ആയ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ കഴിയില്ല. ഇക്കാര്യം ഉറപ്പാക്കുന്നതിനായി സാങ്കേതിക നടപടികൾ സ്വീകരിച്ചതായി കമ്പനി വ്യക്തമാക്കി. വ്യാപക വിമർശനങ്ങളെയും നിയമ നടപടികളെയും തുടർന്നാണ് നടപടി.

ഗ്രോക്ക് ഉപയോക്താക്കൾ സ്ത്രീകളുടെയും പ്രായപൂർത്തിയാകാത്തവരുടെയും എഐ ഡീപ്‌ഫേക്കുകൾ സൃഷ്ടിക്കുകയും അവയെ വസ്ത്രമില്ലാത്ത ചിത്രങ്ങളായി മാറ്റുകയും ചെയ്തത് ലോകവ്യാപകമായി കടുത്ത വിമർശനത്തിന് ഇടയാക്കിയിരുന്നു. ഇതേത്തുടർന്ന് ഇൻഡൊനീഷ്യയും മലേഷ്യയും ഗ്രോക്കിന് പൂർണമായ വിലക്കേർപ്പെടുത്തി. ലൈംഗികച്ചുവയുള്ള ഡീപ്‌ഫേക്കുകൾ നിർമ്മിക്കുന്നതിൽ ഗ്രോക്കിനുള്ള പങ്കിനെക്കുറിച്ച് അന്വേഷണം ആരംഭിച്ചതായി കാലിഫോർണിയ അറ്റോർണി ജനറൽ വ്യക്തമാക്കിയിരുന്നു. യുകെ അധികൃതരും ഗ്രോക്ക് നിരോധിക്കുന്നകാര്യം ഗൗരവമായി പരിഗണിക്കുന്നുണ്ട്. അതിനിടെയാണ് കമ്പനിയുടെ ഭാഗത്തുനിന്നുതന്നെ ശക്തമായ നടപടിയുണ്ടാകുന്നത്.

എല്ലാവർക്കും സുരക്ഷിതമായി ഉപയോഗിക്കാൻ കഴിയുന്ന ഒരു പ്ലാറ്റ്‌ഫോമായി ഗ്രോക്കിനെ നിലനിർത്താൻ പ്രതിജ്ഞാബദ്ധരാണെന്ന് കമ്പനി പ്രസ്താവനയിൽ വ്യക്തമാക്കി. കുട്ടികളെ ലൈംഗികമായി ചൂഷണം ചെയ്യുന്നതും നഗ്‌നത പ്രദർശിപ്പിക്കുന്നതും അനാവശ്യ ലൈംഗിക ഉള്ളടക്കവും ഒരുകാരണവശാലും അംഗീകരിക്കില്ലെന്നും കമ്പനി പറയുന്നു. നിയമം ലംഘിച്ചുള്ള അത്തരം ഉള്ളടക്കം നീക്കാൻ നടപടി സ്വീകരിക്കുകയാണ്. നിയമങ്ങൾ ലംഘിക്കുന്ന അക്കൗണ്ടുകൾക്കെതിരെയും നടപടിയുണ്ടാകും. കുട്ടികളെ ലൈംഗികമായി ചൂഷണം ചെയ്യുന്ന നീക്കങ്ങൾ നടത്തുന്ന അക്കൗണ്ടുകളെക്കുറിച്ച് അന്വേഷണ ഏജൻസികൾക്ക് റിപ്പോർട്ട് ചെയ്യുമെന്നും കമ്പനി പറയുന്നു.

പണമടയ്ക്കുന്ന സബ്‌സ്‌ക്രൈബർമാർ ഉൾപ്പെടെ എല്ലാ ഉപയോക്താക്കൾക്കും ഈ നിയന്ത്രണങ്ങൾ ബാധകമാണ്. X പ്ലാറ്റ്ഫോമിൽ Grok അക്കൗണ്ട് വഴി ചിത്രങ്ങൾ നിർമ്മിക്കാനും എഡിറ്റ് ചെയ്യാനുമുള്ള സൗകര്യം പണമടയ്ക്കുന്ന സബ്‌സ്‌ക്രൈബർമാർക്ക് മാത്രമായി പരിമിതപ്പെടുത്തും. കമ്പനിയുടെ ടീം അധിക സുരക്ഷാ സംവിധാനങ്ങൾ ഒരുക്കുന്നതിനും, നിയമവിരുദ്ധവുമായ ഉള്ളടക്കം വേഗത്തിൽ നീക്കം ചെയ്യുന്നതിനും, ആവശ്യമെങ്കിൽ അക്കൗണ്ടുകൾ സ്ഥിരമായി സസ്‌പെൻഡ് ചെയ്യുന്നതിനും, പ്രാദേശിക സർക്കാരുകളുമായും അന്വേഷണ ഏജൻസികളുമായും സഹകരിക്കുന്നതിനും രാപകൽ പ്രവർത്തിക്കുന്നുവെന്നും കമ്പനി പറയുന്നു. അതിനിടെ, നിയമവിരുദ്ധമായ ഉള്ളടക്കം ഉണ്ടാക്കാൻ Grok AI ചാറ്റ്‌ബോട്ട് ഉപയോഗിക്കുന്ന ആർക്കും ശിക്ഷ അനുഭവിക്കേണ്ടിവരുമെന്ന് ഇലോൺ മസ്‌കും വ്യക്തമാക്കിയിട്ടുണ്ട്.

Content Highlights: xAI`s Grok chatbot now restricts generating sexualized images of real people amid criticism. Learn about the new safety measures and geoblocking.