ഡീപ് ഫേക്കുകൾ നീക്കാൻ കൃത്യമായ സംവിധാനം വേണം; പ്രീതി സിന്റയുടെ കേസിൽ കോടതി

സിനിമാ താരങ്ങളുടെ എഐ ഡീപ്‌ഫേക്ക് വീഡിയോകൾ, മോർഫ് ചെയ്ത ചിത്രങ്ങൾ, അധിക്ഷേപകരമായ മറ്റ് ഡിജിറ്റൽ ഉള്ളടക്കങ്ങൾ എന്നിവ പ്രചരിപ്പിക്കുന്നത് സംബന്ധിച്ച കേസ് ആശങ്ക ഉളവാക്കുന്നതാണെന്ന് ബോംബെ ഹൈക്കോടതി. എന്നാൽ അവയ്‌ക്കെതിരായ നടപടി നിയമാനുസൃതവും യാഥാർഥവുമായ ഓൺലൈൻ ഉള്ളടക്കങ്ങളെ ബാധിക്കരുതെന്ന് ജസ്റ്റിസ് മാധവ് ജാംദർ നിരീക്ഷിച്ചു. അധിക്ഷേപകരമായ ഉള്ളടക്കങ്ങൾ കൃത്യമായി തിരിച്ചറിഞ്ഞ് നീക്കംചെയ്യാനും, അതേസമയം നിയമാനുസൃത ഉള്ളടക്കങ്ങളെ നടപടി ബാധിക്കാതിരിക്കാനും വ്യക്തമായ സംവിധാനം ഉണ്ടാക്കണമെന്ന് ഹൈക്കോടതി സാമൂഹിക മാധ്യമങ്ങളോട് നിർദേശിച്ചു.

ഡീപ്പ് ഫേക്കുകൾക്കെതിരെ ബോളിവുഡ് നടിയ പ്രീതി സിന്റയാണ് മുംബൈ ഹൈക്കോടതിയെ സമീപിച്ചത്. എഐ ഡീപ്‌ഫേക്ക് വീഡിയോകൾ, മോർഫ് ചെയ്ത ചിത്രങ്ങൾ, അധിക്ഷേപകരമായ മറ്റ് ഡിജിറ്റൽ ഉള്ളടക്കങ്ങൾ എന്നിവ പ്രചരിപ്പിക്കുന്നു എന്നാരോപിച്ചാണ്‌ ഹർജി നൽകിയിരിക്കുന്നത്. ടെക് കമ്പനികളായ ഗൂഗിൾ, മെറ്റ, തിരിച്ചറിഞ്ഞിട്ടുള്ളതും അല്ലാത്തതുമായ വ്യക്തികൾ എന്നിവർക്കെതിരെയാണ് ഹർജി.

സാങ്കേതികവിദ്യ പുരോഗമിച്ചതോടെ ഡീപ്‌ഫേക് വീഡിയോകൾ വളരെ വിശ്വസനീയമെന്ന് തോന്നുന്ന രീതിയിലായിട്ടുണ്ടെന്ന് നടിക്കുവേണ്ടി ഹാജരായ മുതിർന്ന അഭിഭാഷകൻ വെങ്കടേഷ് ധോണ്ട് കോടതിയെ അറിയിച്ചു. വ്യാജവും യഥാർഥവുമായ ഉള്ളടക്കങ്ങൾ പലപ്പോഴും തിരിച്ചറിയാൻ കഴിയുന്നില്ല. ഓൺലൈനിൽ വൻതോതിലുള്ള ഉള്ളടക്കങ്ങൾ ഓരോന്നായി പരിശോധിക്കുന്നത് പ്രായോഗികമായി ബുദ്ധിമുട്ടാണ്. അതിനാൽ ഹർജിയിൽ പരാമർശിച്ചിരിക്കുന്ന എല്ലാ അധിക്ഷേപകരമായ ഉള്ളടക്കങ്ങളും ബന്ധപ്പെട്ട വെബ്സൈറ്റുകളും, ലിങ്കുകളും ഉടനടി നീക്കം ചെയ്യണമെന്ന് അഭിഭാഷകൻ ആവശ്യപ്പെട്ടു.

അതിനിടെ, മോർഫ് ചെയ്തതോ അശ്ലീല സ്വഭാവമുള്ളതോ ആയ ഉള്ളടക്കങ്ങൾ നീക്കം ചെയ്യാൻ കമ്പനികൾ തയ്യാറാണെന്ന് ഗൂഗിൾ, മെറ്റ എന്നിവയ്ക്കുവേണ്ടി ഹാജരായ അഭിഭാഷകർ അറിയിച്ചു. നീക്കം ചെയ്യേണ്ട ഉള്ളടക്കങ്ങൾ ഏതൊക്കെയാണെന്ന് നടി വ്യക്തമാക്കണമെന്നും അവർ ആവശ്യപ്പെട്ടു. അതേസമയം, ഹർജിയിൽ പരാമർശിച്ചിരിക്കുന്ന ചില ലിങ്കുകളിൽ അത്തരത്തിലുള്ള ഉള്ളടക്കം ഇല്ലെന്നും കമ്പനികളുടെ അഭിഭാഷകർ കോടതിയെ അറിയിച്ചു

ഇതോടെ കേസ് ആശങ്ക ഉണർത്തുന്നതാണെങ്കിലും നിയമാനുസൃതവും യാഥാർഥവുമായ ഓൺലൈൻ ഉള്ളടക്കങ്ങളെ നടപടി ബാധിക്കരുതെന്ന് ജസ്റ്റിസ് മാധവ് ജാംദർ നിരീക്ഷിച്ചു. അധിക്ഷേപകരമായ ഉള്ളടക്കങ്ങൾ കൃത്യമായി തിരിച്ചറിഞ്ഞ് നീക്കം ചെയ്യാനും അതേസമയം നിയമാനുസൃത ഉള്ളടക്കങ്ങളെ നടപടി ബാധിക്കാതിരിക്കാനും വ്യക്തമായ സംവിധാനം രൂപപ്പെടുത്താൻ കോടതി നിർദേശം നൽകി.

Content Highlights: Bombay High Court addresses the rise of AI deepfakes targeting film stars., Justice Madhav Jamdar emphasizes protecting legitimate content during removal processes., Court orders social media platforms to establish clear mechanisms for identifying and deleting abusive digital content., Preity Zinta filed the petition against Google, Meta, and anonymous offenders., Tech giants agree to remove offensive content but request specific identification of links.