ഗ്രോക്ക് എഐ ചാറ്റ്‌ബോട്ട് ദുരുപയോഗം ചെയ്യുന്നതിനെതിരെ ഉപഭോക്താക്കൾക്ക് മുന്നറിയിപ്പ് നൽകി ഇലോൺ മസ്‌കും എക്‌സും. നിയമവിരുദ്ധ ഉള്ളടക്കം നിർമിക്കാൻ ഗ്രോക്ക് ഉപയോഗിക്കുകയോ പ്രോംറ്റ് നൽകുകയോ ചെയ്താൽ നിയമവിരുദ്ധ ഉള്ളടക്കം അപ്‌ലോഡ് ചെയ്യുമ്പോൾ ലഭിക്കുന്ന അതേ പ്രത്യാഘാതങ്ങൾ അനുഭവിക്കേണ്ടിവരുമെന്ന് എക്‌സ് മേധാവി ഇലോൺ മസ്‌ക് പങ്കുവെച്ച പോസ്റ്റിൽ പറഞ്ഞു.

To advertise here,

എക്‌സിന്റെ സുരക്ഷാ ടീമും ഇത് സംബന്ധിച്ച് പോസ്റ്റ് പങ്കുവെച്ചിട്ടുണ്ട്. കുട്ടികൾക്കെതിരായ ലൈംഗിക അതിക്രമങ്ങൾ (CSAM) ഉൾപ്പെടെയുള്ള നിയമവിരുദ്ധമായ ഉള്ളടക്കങ്ങൾ നീക്കം ചെയ്തും, അക്കൗണ്ടുകൾ സസ്പെൻഡ് ചെയ്തും, ആവശ്യാനുസരണം പ്രാദേശിക ഭരണകൂടങ്ങളുമായും നിയമപാലകരുമായും സഹകരിച്ചും എക്‌സിൽ ഞങ്ങൾ നടപടികൾ സ്വീകരിക്കുന്നുണ്ടെന്ന് സുരക്ഷാ ടീം പറഞ്ഞു.

അശ്ലീല ഉള്ളടക്കം നീക്കണമെന്നാവശ്യപ്പെട്ട് ഇലോൺ മസ്‌കിന്റെ സാമൂഹിക മാധ്യമ പ്ലാറ്റ്‌ഫോമായ എക്‌സിന് ഇന്ത്യൻ ഭരണകൂടം നോട്ടീസ് അയച്ചതിന് പിന്നാലെയാണ് കമ്പനിയുടെ ഭാഗത്ത് നിന്ന് ഈ നീക്കങ്ങൾ.

അതേസമയം അശ്ലീല ഉള്ളടക്കങ്ങൾക്കുള്ള പ്രോംറ്റുകൾ ലഭിച്ചാൽ അത്തരം ഉള്ളടക്കങ്ങൾ സൃഷ്ടിക്കപ്പെടുന്നത് തടയാൻ സാങ്കേതികമായി ഗ്രോക്കിൽ എന്ത് മാറ്റങ്ങൾ കൊണ്ടുവരുമെന്ന് മസ്‌കും കമ്പനിയും ഇതുവരെ വ്യക്തമാക്കിയിട്ടില്ല. പകരം ടൂൾ ദുരുപയോഗം ചെയ്യുന്നവർക്കെതിരെ നടപടിയുണ്ടാകുമെന്ന മുന്നറിയിപ്പ് മാത്രമാണ് നൽകിയിരിക്കുന്നത്.

സ്ത്രീകളേയും പ്രായപൂർത്തിയാകാത്തവരേയും അർദ്ധനഗ്നരാക്കാനും ബിക്കിനി ധരിപ്പിക്കാനുമെല്ലാം ഗ്രോക്ക് എഐ വ്യാപകമായി ദുരുപയോഗം ചെയ്യുന്നുവെന്ന് കഴിഞ്ഞ ദിവസം റിപ്പോർട്ടുകളുണ്ടായിരുന്നു. ഒരു സ്ത്രീ അവരുടെ ഒരു ചിത്രം എക്‌സിൽ പോസ്റ്റ് ചെയ്താൽ കമന്റിൽ ഗ്രോക്കിനെ ടാഗ് ചെയ്ത് ഇവരെ ബിക്കിനി ധരിപ്പിക്കൂ എന്ന നിർദേശം നൽകിയാണ് ഇത്തരത്തിൽ നിയമവിരുദ്ധമായി അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കുന്നത്. സെലിബ്രിട്ടികളുടേയും അല്ലാത്തവരുടേയും ചിത്രങ്ങൾ ഇത്തരത്തിൽ വ്യാപകമായി പ്രചരിക്കുന്നുണ്ട്.

എക്‌സിൽ എന്തെല്ലാം ചെയ്യാം എന്നതുമായി ബന്ധപ്പെട്ട് ഒരു ഔദ്യോഗിക പോളിസി എക്‌സിനുണ്ട്. ഇതനുസരിച്ച് കുട്ടികളുമായി ബന്ധപ്പെട്ട ലൈംഗികവത്കരണം തടയുമെന്നാണ് എക്‌സ് പറയുന്നത്. എന്നാൽ ഗ്രോക്കിൽ കുട്ടികളുടെ ചിത്രം അപ്‌ലോഡ് ചെയ്ത് അവരെ ബിക്കിനി ധരിച്ചവരും അർധനഗ്നരും ആക്കാൻ സാധിക്കുന്നുണ്ടെന്നാണ് റോയിട്ടേഴ്‌സ് റിപ്പോർട്ടിൽ പറയുന്നത്.

ജനുവരി രണ്ടിനാണ് ഇത് സംബന്ധിച്ച് എക്‌സിന് നോട്ടീസ് അയച്ചതായി ഐടി മന്ത്രാലയം വെളിപ്പെടുത്തിയത്. ഇൻഫർമേഷൻ ടെക്നോളജി ആക്ട്, ഇൻഫർമേഷൻ ടെക്നോളജി (ഇന്റർമീഡിയറി ഗൈഡ്‌ലൈൻസ് ആൻഡ് ഡിജിറ്റൽ മീഡിയ എത്തിക്സ് കോഡ്) റൂൾസ് എന്നിവ പ്രകാരമുള്ള നിയമപരമായ ബാധ്യതകൾ നിറവേറ്റുന്നതിൽ വീഴ്ച വരുത്തിയതുമായി ബന്ധപ്പെട്ടാണ് കേന്ദ്ര സർക്കാർ നോട്ടീസയച്ചതെന്ന് വാർത്താ ഏജൻസി റിപ്പോർട്ടുചെയ്തു.

ഗ്രോക്ക് പോലുള്ള എഐ സംവിധാനങ്ങൾ ദുരുപയോഗം ചെയ്ത് അശ്ലീല, നഗ്ന, അനാശാസ്യ, ലൈംഗിക ചുവയുള്ള ഉള്ളടക്കങ്ങൾ ഹോസ്റ്റ് ചെയ്യുകയോ സൃഷ്ടിക്കുകയോ പ്രസിദ്ധീകരിക്കുകയോ, കൈമാറുകയോ പങ്കുവെക്കുകയോ ചെയ്യുന്നത് തടയുന്നതിനുള്ള നടപടികൾ ഉടൻ സ്വീകരിക്കണമെന്ന് കേന്ദ്രം എക്‌സിനോട് ആവശ്യപ്പെട്ടു,.