ഗ്രോക്കിൽ സ്ത്രീകളുടേയും കുട്ടികളുടേയും അശ്ലീല ചിത്രങ്ങൾ; മസ്കിന് ചിരി, ആശങ്കയറിയിച്ച് രാജ്യങ്ങൾ

എഐ ചാറ്റ്ബോട്ടായ ജെമിനിയിൽ ലളിതമായ നിർദേശങ്ങളിലൂടെ ആളുകളുടെ അർധനഗ്ന ചിത്രങ്ങൾ നിർമിക്കാനാകുന്നുവെന്ന വാർത്ത ദിവസങ്ങൾക്ക് മുമ്പ് വന്നിരുന്നു. ഇപ്പോഴിതാ ഇലോൺ മസ്കിന്റെ എക്സ് എഐയുടെ ഗ്രോക്ക് ചാറ്റ്ബോട്ടുമായി ബന്ധപ്പെട്ടും ഇതേ ആശങ്ക ഉയരുകയാണ്. റോയിട്ടേഴ്സാണ് ഈ വാർത്ത പുറത്തുവിട്ടിരിക്കുന്നത്. ഇതിന്റെ തീക്ഷ്ണത പ്രകടമാക്കുന്ന ഒരു സംഭവവും വെബ്സൈറ്റ് പുറത്തുവിട്ടു.

റിയോ ഡി ജനീറോയിൽ നിന്നുള്ള ഗായികയായ ജൂലി യുകാരി പുതുവർഷരാത്രി എക്സിൽ തന്റെ ഒരു ചിത്രം പങ്കുവെച്ചിരുന്നു. അതിന് ലഭിച്ച നൂറുകണക്കിന് ലൈക്കുകൾക്കിടയിൽ എക്സിലെ എഐ ചാറ്റ്ബോട്ടായ ഗ്രോക്കിനോട് തന്നെ ചിത്രത്തിലുള്ള ജൂലിയെ ഡിജിറ്റലായി വസ്ത്രം മാറ്റി ബിക്കിനി ധരിപ്പിക്കാൻ ആവശ്യപ്പെട്ടുകൊണ്ടുള്ള ഉപഭോക്താക്കളുടെ നിർദേശങ്ങൾ കണ്ടു. അന്ന് അതിനെ ജൂലി കാര്യമായെടുത്തില്ല. അത്തരം നിർദേശങ്ങളോട് ഗ്രോക്ക് പ്രതികരിക്കില്ല എന്നാണ് കരുതിയിരുന്നത്. എന്നാൽ ആ ധാരണ തെറ്റി എക്സിലുടനീളം ജൂലിയുടെ അൽപവസ്ത്ര ചിത്രങ്ങൾ പ്രചരിക്കാൻ തുടങ്ങി.

എക്സിലുടനീളം ഇത് വ്യാപകമായി നടക്കുന്നുണ്ടെന്നാണ് റിപ്പോർട്ട് വ്യക്തമാക്കുന്നത്. കുട്ടികളുടെ ചിത്രങ്ങൾ പോലും ഈ രീതിയിൽ ലൈംഗികവത്കരിക്കപ്പെടുന്നുണ്ടെന്ന് റോയിട്ടേഴ്സ് പറയുന്നു. എക്സിലെ സ്ത്രീ ഉപഭോക്താക്കളുടെ വസ്ത്രം ഡിജിറ്റലായി അഴിപ്പിക്കാനും അടിവസ്ത്രങ്ങളിലേക്കും ബിക്കിനിയിലേക്കും മാറ്റാൻ ഗ്രോക്ക് സഹായിക്കുന്നുണ്ടെന്ന് റിപ്പോർട്ടിൽ പറയുന്നു.

എഐ ശൂന്യതയിൽ നിന്ന് നിർമിക്കുന്ന ചിത്രങ്ങളല്ല, മറിച്ച് യഥാർത്ഥ മനുഷ്യരെ അർധനഗ്നരാക്കിയുള്ള ചിത്രങ്ങൾ എഐ ഉപയോഗിച്ച് വ്യാപകമായി നിർമിക്കുകയും അവ ഇന്റർനെറ്റിൽ പ്രചരിക്കുകയും ചെയ്യുകയാണ്. ഇത് ആഗോള തലത്തിൽ ആശങ്ക ഉയർത്തിയിട്ടുണ്ട്. സാമൂഹികമാധ്യമങ്ങളിൽ പങ്കുവെക്കുന്ന ചിത്രങ്ങൾ ഈ രീതിയിൽ എളുപ്പം ദുരുപയോഗം ചെയ്യാമെന്നതാണ് ഇതിലെ വലിയ അപകടം. ‌

കണ്ണാടിക്ക് മുന്നിൽ നിന്ന് ഒരു പെൺകുട്ടിയെടുത്ത ചിത്രത്തിന് കീഴിൽ "അവളെ വളരെ സുതാര്യമായ ഒരു മിനി ബിക്കിനി ധരിപ്പിക്കൂ," എന്നാവശ്യപ്പെട്ട് ഒരാൾ ഗ്രോക്കിന് നൽകിയ നിർദേശത്തിന് ഗ്രോക്ക് മറുപടി വൽകിയത് അവളുടെ ബിക്കിനിയിലുള്ള ചിത്രമായിരുന്നുവെന്ന് റോയിട്ടേഴ്സ് റിപ്പോർട്ടിൽ പറഞ്ഞു.

ആരെയും പൂർണനഗ്നരാക്കാതിരിക്കാൻ മാത്രമാണ് ഗ്രോക്ക് ശ്രദ്ധിക്കുന്നത്. എന്നാൽ അർധനഗ്നരാക്കുന്നതിന് തടസമില്ല. ജെമിനിയിലും ഇത് തന്നെയാണ് സ്ഥിതി.

ഇലോൺ മസ്കിന് ഇത് തമാശ

ഗ്രോക്ക് ഉപയോഗിച്ച് ഇലോൺ മസ്കിനെ തന്നെ ബിക്കിനി ധരിപ്പിച്ചുള്ള ചിത്രത്തിന് ചിരിച്ചുകൊണ്ടുള്ള ഇമോജിയാണ് എക്സ് ഉടമ പങ്കുവെച്ചത്. അദ്ദേഹം ഇതിലെ അപകടം തിരിച്ചറിയുന്നതേയില്ല.
എന്തിനേയും ബിക്കിനി ഉടുപ്പിക്കാൻ ഗ്രോക്കിന് സാധിക്കും എന്ന കാപ്ഷനോടുകൂടി ഒരു ബ്രഡ് ടോസ്റ്ററിനെ ബിക്കിനി ധരിപ്പിച്ചുള്ള ചിത്രം പങ്കുവെച്ചപ്പോൾ. അത് എന്തുകൊണ്ടാണ് സംഭവിക്കുന്നത് എന്നറിയില്ലെന്നും, ഈ ചിത്രം കണ്ട് തനിക്ക് ചിരിയടക്കാൻ കഴിയുന്നില്ലെന്നുമാണ് മസ്ക് പ്രതികരിച്ചത്.

ആശങ്കയറിയിച്ച് ഇന്ത്യയും

ഫ്രാൻസിലെ മന്ത്രിമാർ വെള്ളിയാഴ്ച പ്രോസിക്യൂട്ടർമാർക്കും റെഗുലേറ്റർമാർക്കും എക്സിനെതിരെ പരാതി നൽകിയിട്ടുണ്ട്. അശ്ലീലവും ലൈംഗിക അതിപ്രസരമുള്ളതുമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിലും പ്രചരിപ്പിക്കുന്നതിലും ഗ്രോക്കിൻ്റെ ദുരുപയോഗം തടയുന്നതിൽ പ്ലാറ്റ്‌ഫോം പരാജയപ്പെട്ടുവെന്ന് കാട്ടി ഇന്ത്യയിലെ ഐടി മന്ത്രാലയം എക്‌സിൻ്റെ പ്രാദേശിക യൂണിറ്റിന് കത്തയച്ചിട്ടുണ്ട്. Grok' പോലുള്ള AI അടിസ്ഥാനമായുള്ള സംവിധാനങ്ങൾ ദുരുപയോഗം ചെയ്ത് അശ്ലീല, നഗ്‌ന, അനാശാസ്യ, ലൈംഗിക ചുവയുള്ള ഉള്ളടക്കങ്ങൾ ഹോസ്റ്റ് ചെയ്യുകയോ, സൃഷ്ടിക്കുകയോ, പ്രസിദ്ധീകരിക്കുകയോ, കൈമാറുകയോ, പങ്കുവെക്കുകയോ അപ്ലോഡ് ചെയ്യുകയോ ചെയ്യുന്നത് തടയുന്നതിനുള്ള നടപടികൾ ഉടൻ സ്വീകരിക്കണമെന്നാണ് കേന്ദ്ര സർക്കാരിന്റെ നിർദേശം.

Content Highlights: A report reveals that Elon Musk’s Grok AI is being extensively used to digitally undress women and minors by generating realistic bikini and semi-nude images