അശ്ലീല ഉള്ളടക്കം: X-ന് നോട്ടീസയച്ച് കേന്ദ്ര സർക്കാർ, AI ദുരുപയോഗം തടയാൻ നിർദേശം

ന്യൂഡൽഹി: അശ്ലീല ഉള്ളടക്കം നീക്കണമെന്ന് ആവശ്യപ്പെട്ട് ഇലോൺ മസ്‌കിന്റെ സാമൂഹിക മാധ്യമ പ്ലാറ്റ്‌ഫോമായ X-ന് നോട്ടീസയച്ച് കേന്ദ്ര സർക്കാർ. ഇലക്ട്രോണിക്‌സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്‌നോളജി മന്ത്രാലയത്തിന്റേതാണ് നടപടി. 'Grok' പോലുള്ള AI അടിസ്ഥാനമായുള്ള സംവിധാനങ്ങൾ ദുരുപയോഗം ചെയ്ത് അശ്ലീല, നഗ്‌ന, അനാശാസ്യ, ലൈംഗിക ചുവയുള്ള ഉള്ളടക്കങ്ങൾ ഹോസ്റ്റ് ചെയ്യുകയോ, സൃഷ്ടിക്കുകയോ, പ്രസിദ്ധീകരിക്കുകയോ, കൈമാറുകയോ, പങ്കുവെക്കുകയോ അപ്ലോഡ് ചെയ്യുകയോ ചെയ്യുന്നത് തടയുന്നതിനുള്ള നടപടികൾ ഉടൻ സ്വീകരിക്കണമെന്നാണ് കേന്ദ്ര സർക്കാരിന്റെ നിർദേശം.

ഇൻഫർമേഷൻ ടെക്‌നോളജി ആക്ട്, ഇൻഫർമേഷൻ ടെക്‌നോളജി (ഇന്റർമീഡിയറി ഗൈഡ്ലൈൻസ് ആൻഡ് ഡിജിറ്റൽ മീഡിയ എത്തിക്‌സ് കോഡ്) റൂൾസ് എന്നിവ പ്രകാരമുള്ള നിയമപരമായ ബാധ്യതകൾ നിറവേറ്റുന്നതിൽ വീഴ്ച വരുത്തിയതുമായി ബന്ധപ്പെട്ടാണ് കേന്ദ്ര സർക്കാർ നോട്ടീസയച്ചതെന്ന് വാർത്താ ഏജൻസി റിപ്പോർട്ടുചെയ്തു.

ഭാരതീയ നാഗരിക് സുരക്ഷാ സംഹിത (BNSS) 2023 പ്രകാരമുള്ള നടപടി റിപ്പോർട്ട് (ATR) 72 മണിക്കൂറിനുള്ളിൽ സമർപ്പിക്കാൻ സർക്കാർ X -നോട് ആവശ്യപ്പെട്ടിട്ടുണ്ട്. സ്വീകരിച്ച നടപടികൾ വിശദീകരിക്കാനാണ് നിർദേശം. സ്ത്രീകളെ ലക്ഷ്യമിട്ട് അശ്ലീലവും, അനുചിതവുമായ ഉള്ളടക്കം സൃഷ്ടിക്കാനും പങ്കുവെക്കാനും X ന്റെ AI സേവനമായ ഗ്രോക്ക് ദുരുപയോഗം ചെയ്യപ്പെടുന്നതായി റിപ്പോർട്ടുകൾ പ്രചരിക്കുന്നതിൽ മന്ത്രാലയം ഗുരുതരമായ ആശങ്ക പ്രകടിപ്പിച്ചു. Grok ഉപയോഗിച്ച് ഉപയോക്താക്കൾ വികലമായ രീതിയിൽ കൃത്രിമ ചിത്രങ്ങളും വീഡിയോകളും സൃഷ്ടിക്കുന്നതായി കത്തിൽ ചൂണ്ടിക്കാട്ടിയിട്ടുണ്ട്. ഇത് സ്ത്രീകളുടെ സ്വകാര്യതയേയും അന്തസിനേയും ഹനിക്കുന്നു. അത്തരം പ്രവർത്തനങ്ങൾ ലൈംഗിക പീഡനത്തെ സാധാരണവൽക്കരിക്കുകയും നിയമപരമായ സംരക്ഷണം ദുർബലപ്പെടുത്തുകയും ചെയ്യുമെന്ന് മന്ത്രാലയം മുന്നറിയിപ്പ് നൽകി.

നിയമവിരുദ്ധമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നത് തടയുന്നതിനായി ഗ്രോക്കിന്റെ ന്റെ സാങ്കേതികവും ഭരണപരവുമായ സംവിധാനങ്ങൾ സമഗ്രമായി അവലോകനം ചെയ്യാൻ മന്ത്രാലയംനിർദ്ദേശം നൽകി. കർശനമായ ഉപയോക്തൃ നയങ്ങൾ ഗ്രോക്ക് നടപ്പിലാക്കണം. നിർദേശങ്ങൾ ലംഘിക്കുന്നവരെ താത്കാലികമായി ഒഴിവാക്കുകയോ സ്ഥിരമായി പുറത്താക്കുകയോ ചെയ്യണം. കുറ്റകരമായ എല്ലാ ഉള്ളടക്കവും ഉടൻ നീക്കം ചെയ്യണം. അല്ലാത്തപക്ഷം ശിക്ഷാ നടപടികളിലേക്ക് നീങ്ങേണ്ടിവരുമെന്ന് മന്ത്രാലയം വ്യക്തമാക്കിയിട്ടുണ്ട്.

സ്ത്രീസുരക്ഷ ഉറപ്പാക്കുന്നതിനായി X ന്റെ AI ആപ്പുകളിൽ സംരക്ഷണ സംവിധാനങ്ങൾ ഏർപ്പെടുത്താൻ ശിവസേന (യുബിടി) എംപി പ്രിയങ്ക ചതുർവേദി നേരത്തെ കേന്ദ്ര ഇടപെടൽ ആവശ്യപ്പെട്ടിരുന്നു. ഇലക്ട്രോണിക്‌സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്‌നോളജി മന്ത്രി അശ്വിനി വൈഷ്ണവിന് അവർ ഈ ആവശ്യമുന്നയിച്ച് കത്തയച്ചിരുന്നു. X അടക്കമുള്ള സോഷ്യൽ മീഡിയ പ്ലാറ്റ്‌ഫോമുകളിൽ വ്യാജ അക്കൗണ്ടുകൾ ഉപയോഗിച്ച് സ്ത്രീകളുടെ ചിത്രങ്ങൾ പോസ്റ്റ് ചെയ്യുകയും ഗ്രോക്കിന്റെ എഐ ഫീച്ചർ ദുരുപയോഗം ചെയ്തുകൊണ്ട് അവരുടെ വസ്ത്രധാരണരീതിയിൽ മാറ്റംവരുത്താനും മോശമായി ചിത്രീകരിക്കാനുമുള്ള പ്രവണത വർധിച്ചുവരുന്നുവെന്ന് അവർ കത്തിൽ ചൂണ്ടിക്കാട്ടിയിരുന്നു.

Content Highlights: MeitY sends stern letter to X Corp (Twitter) regarding failure to comply with IT Act rules on AI-generated explicit content. Action Taken Report sought.