സ്കൂൾ ലാപ്ടോപ്പിലെ എഐ ചാറ്റുകൾ വഴി ആത്മഹത്യാപരമായ ആശയവിനിമയം: ഗൂഗിളിനെതിരെ യുഎസിൽ കേസ്

വാഷിംങ്ടൺ: സ്കൂൾ ആവശ്യങ്ങൾക്കായി നൽകിയ കമ്പ്യൂട്ടറിലെ എഐ സൗകര്യങ്ങൾ ഉപയോഗിച്ച് 13-കാരിയായ വിദ്യാർഥിനി ആത്മഹത്യയ്ക്കും സ്വന്തം സംസ്‌കാര ചടങ്ങുകൾക്കുമായി പദ്ധതികൾ തയ്യാറാക്കിയതായി പരാതി. സംഭവത്തിൽ ടെക് ഭീമനായ ഗൂഗിളിന്റെ അശ്രദ്ധ ചൂണ്ടിക്കാട്ടി വിദ്യാർഥിനിയുടെ മാതാപിതാക്കൾ കാലിഫോർണിയ കോടതിയെ സമീപിച്ചു. ഗൂഗിൾ ക്രോംബുക്കുകളിൽ ഉൾപ്പെടുത്തിയിട്ടുള്ള എഐ ഫീച്ചറുകൾ കുട്ടികളുടെ സുരക്ഷയ്ക്ക് ഭീഷണിയാകുന്നുവെന്ന് ആരോപിച്ച് ഫയൽ ചെയ്യുന്ന ആദ്യ കേസുകളിലൊന്നാണിത്.

പഠനാവശ്യത്തിനായി സ്കൂൾ നൽകിയ ലാപ്ടോപ്പിൽ ഗൂഗിളിന്റെ ജെമിനി, ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിറ്റി തുടങ്ങിയ പ്രമുഖ എഐ ആപ്പുകൾ സ്കൂൾ അധികൃതർ ബ്ലോക്ക് ചെയ്തിരുന്നു. എന്നാൽ ഗൂഗിൾ സെർച്ചിനൊപ്പം തടസ്സമില്ലാതെ ലഭ്യമായിരുന്ന എഐ ടൂളുകൾ ഉപയോഗിച്ചാണ് കുട്ടി വിവരങ്ങൾ ശേഖരിച്ചത്. കുട്ടികൾക്കായി സെർച്ച് സെറ്റിങ്സിൽ നിയന്ത്രണങ്ങൾ കൊണ്ടുവരുമെന്ന് കഴിഞ്ഞ ആഴ്ച ഗൂഗിൾ പ്രഖ്യാപിച്ചെങ്കിലും ഈ എഐ സെർച്ച് ഫീച്ചറുകൾ അതിൽ ഉൾപ്പെടുത്തിയിരുന്നില്ല.

നോർത്ത് കരോലിന സ്വദേശിയായ വിദ്യാർഥിനി പഠനത്തിലും സംഗീതത്തിലും മറ്റ് പാഠ്യേതര വിഷയങ്ങളിലും മുൻപന്തിയിലായിരുന്നുവെന്നും മുൻപ് മാനസികാരോഗ്യ പ്രശ്നങ്ങളൊന്നും നേരിട്ടിരുന്നില്ലെന്നും മാതാപിതാക്കൾ ഹർജിയിൽ പറയുന്നു. എന്നാൽ കമ്പ്യൂട്ടറിൽ എഐ സെർച്ച് ഉപയോഗിക്കാൻ തുടങ്ങിയതോടെ കുട്ടി കടുത്ത വിഷാദത്തിലേക്ക് വഴുതിവീഴുകയായിരുന്നു.

മാർച്ച് 17-ന് സ്കൂളിലെ കമ്പ്യൂട്ടർ നിരീക്ഷണ സോഫ്റ്റ്‌വെയറാണ് കുട്ടിയുടെ ഫയലുകളിൽ 'ഫ്യൂണറൽ' എന്ന പേരിലുള്ള ഡോക്യുമെന്റ് കണ്ടെത്തുകയും മാതാപിതാക്കളെ വിവരമറിയിക്കുകയും ചെയ്തത്. തുടർന്ന് കുട്ടിയുടെ അക്കൗണ്ട് പരിശോധിച്ച അമ്മ, മകൾ വിടവാങ്ങൽ കുറിപ്പ് തയ്യാറാക്കുന്നത് തത്സമയം കാണുകയും അച്ഛൻ ഉടനടി ഇടപെട്ട് വൻ ദുരന്തം ഒഴിവാക്കുകയുമായിരുന്നു.

സംഭവം വളരെ ഗൗരവത്തോടെയാണ് കാണുന്നതെന്നും വിഷയം വിശദമായി പരിശോധിച്ചു വരികയാണെന്നും ഗൂഗിൾ വക്താവ് ജോസ് കാസ്റ്റനിഡ പ്രതികരിച്ചു. സ്വയം ഉപദ്രവിക്കുന്ന തരത്തിലുള്ള തിരച്ചിലുകൾ തടയാൻ എഐ മോഡിൽ ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങളുണ്ടെന്നാണ് ഗൂഗിളിന്റെ വാദം. എന്നാൽ ഈ മുൻകരുതലുകളെയെല്ലാം കുട്ടിക്ക് വളരെ എളുപ്പത്തിൽ മറികടക്കാൻ കഴിഞ്ഞുവെന്നും ഗൂഗിളിന്റെ സുരക്ഷാ ക്രമീകരണങ്ങൾ തികച്ചും പര്യാപ്തമല്ലെന്നും കുടുംബത്തിന്റെ അഭിഭാഷകൻ ആരോപിച്ചു.

ചാറ്റ്ജിപിറ്റിയുടെ നിർദ്ദേശപ്രകാരം 16-കാരൻ ജീവനൊടുക്കിയ സംഭവത്തിലടക്കം ഓപ്പൺഎഐയ്ക്കെതിരെയും വിവിധ കുടുംബങ്ങൾ നൽകിയ ഹർജികൾ കോടതിയുടെ പരിഗണനയിലുണ്ട്.

Content Highlights: Parents of a 13-year-old girl filed a lawsuit against Google in California court