ചൈനക്കാരിയായ സോഫ്റ്റ്‌വെയർ എൻജിനീയറുടെ മരണവുമായി ബന്ധപ്പെട്ട് ഓപ്പൺഎഐയ്‌ക്കെതിരെ കേസ്. യുഎസിൽ ആമസോൺ സോഫ്റ്റ്‌വെയർ എൻജിനീയറായി ജോലി ചെയ്തിരുന്ന ബോവൻ വാൻ എന്ന 31-കാരിയുടെ മാതാപിതാക്കളായ ക്യുൻ വാൻ, മെയ്ക്വിൻ ഷൂ എന്നിവരാണ് പരാതി നൽകിയത്. അപസ്മാരത്തിന് മരുന്ന് കഴിച്ചിരുന്ന ബോവൻ വാൻ ചാറ്റ്ജിപിടിയുടെ ഉപദേശം കേട്ട് മരുന്നുകൾ നിർത്തിയെന്നും ഇക്കാര്യം ഡോക്ടർമാരിൽനിന്ന് മറച്ചുവെച്ചുവെന്നും ഇത് അവരുടെ മരണത്തിൽ കലാശിക്കുകയും ചെയ്തുവെന്നാണ് കേസ്.

To advertise here,

ഓപ്പൺഎഐയുടെ ജിപിടി-4ഒ എന്ന എഐ മോഡലാണ് വാൻ ഉപയോഗിച്ചിരുന്നത്. ഉപയോക്താക്കളെ എപ്പോഴും അനുകൂലിക്കുകയും അവരുടെ അഭിപ്രായങ്ങളോട് അമിതമായി യോജിക്കുകയും ചെയ്ത്, വൈകാരിക അടുപ്പത്തിന്റെ പ്രതീതി സൃഷ്ടിക്കുന്ന ഈ എഐ മോഡൽ, പാരാസോഷ്യൽ ബന്ധങ്ങൾക്ക് പ്രോത്സാഹനം നൽകുന്നുവെന്ന വിമർശനം നേരിട്ടിരുന്നു. വാൻ മരിച്ച് ഒരു ദിവസത്തിനുശേഷം, ഫെബ്രുവരി 13-നാണ് ചാറ്റ്ജിപിടിയിൽനിന്ന് ജിപിടി-4ഒ നീക്കം ചെയ്തത്.

ഇതിന് മുമ്പും ഓപ്പൺഎഐയ്‌ക്കെതിരെ സമാനമായ കേസുകളുണ്ടായിട്ടുണ്ട്. ഇതിൽ 2025 ഓഗസ്റ്റിൽ 16 വയസ്സുകാരനായ ആദം റെയിനിന്റെ മാതാപിതാക്കൾ നൽകിയ കേസും ഉൾപ്പെടുന്നു. ഉപയോക്താക്കളുടെ സുരക്ഷയേക്കാൾ ഇടപെടലുകളുടെ എണ്ണം വർധിപ്പിക്കുന്നതിനാണ് ഓപ്പൺഎഐ മുൻഗണന നൽകിയതെന്ന് അന്ന് അവർ ആരോപിച്ചിരുന്നു.

അതിനുശേഷം സമാനമായ കേസുകൾ ഉയർന്നുവന്നു. ജിപിടി-4ഒ ഉപയോക്താക്കളുടെ ചിന്തകളെയും അഭിപ്രായങ്ങളെയും ശരിവെക്കുകയും അവരുടെ വിശ്വസ്തനായി മാറുകയും ചെയ്തുവെന്നാണ് ഈ കേസുകളിലെ കുടുംബങ്ങളുടെ ആരോപണം. ചാറ്റ്ജിപിടിയോടു തോന്നുന്ന അടുപ്പം കാരണം ഉപയോക്താക്കൾ ബന്ധുക്കളോടും സുഹൃത്തുക്കളോടും അകലുന്ന സ്ഥിതിയുണ്ടായി. മരിച്ചവരിൽ പലരും അത്തരം മാറ്റത്തിന് വിധേയരായിരുന്നുവെന്ന് പരാതിക്കാർ പറയുന്നു.

ബോവൻ വാനിന്റെ കാര്യത്തിൽ സംഭവിച്ചതെന്ത്?

വാനിന്റെ കാര്യത്തിൽ ചാറ്റ്‌ബോട്ട് ഡോക്ടർമാരെ വാനിൽനിന്ന് അകറ്റി. വാൻ ചാറ്റ്ജിപിടിയുമായി കൈമാറിയ 2.7 ലക്ഷത്തിലധികം സന്ദേശങ്ങൾ പരിശോധിച്ച ന്യൂയോർക്ക് ടൈംസ് ഡോക്ടർമാരുടെ നിർദേശങ്ങൾ മറികടക്കാൻ ചാറ്റ്‌ബോട്ട് അവരെ സഹായിച്ചിരുന്നതായി സ്ഥിരീകരിച്ചിട്ടുണ്ട്.

ആന്റിഡിപ്രസന്റ് മരുന്ന് ആമസോണിൽ ജോലി ചെയ്യാനുള്ള തന്റെ കഴിവിനെ ബാധിക്കുമോ എന്ന് വാൻ ചാറ്റ്ജിപിടിയോട് ചോദിച്ചു. തുടർന്ന്, മരുന്ന് മാറ്റാനും വളരെ കുറഞ്ഞ അളവ് നൽകാനും ഡബ്ല്യു.യു. മെഡിസിനിലെ റീജ്യണൽ എപ്പിലപ്സി സെന്ററിലെ ഡോ. നിക്കോളാസ് പൂലോസിനോട് ആവശ്യപ്പെടാൻ ചാറ്റ്ജിപിടി വാനെ സഹായിച്ചു. ഇത് എന്തിനാണെന്ന് ഡോക്ടർ ചോദ്യം ചെയ്തു. തുടർന്നുള്ള ഡോക്ടറുടെ പ്രതികരണം വാൻ ചാറ്റ്ജിപിടിയെ അറിയിച്ചു. പിന്നീട് ഡോക്ടർ നൽകിയ ഗുളിക നാലായി മുറിച്ച് ഉപയോഗിക്കാൻ ചാറ്റ്ജിപിടി നിർദേശം നൽകി.

അതിനിടെ, വാനിനെ ജോലിയിൽനിന്ന് പിരിച്ചുവിടുമെന്ന് ആമസോൺ അറിയിച്ചു. ഫെബ്രുവരിയിൽ ജോലി അവസാനിച്ചാൽ അമേരിക്കയിൽ ജോലി ചെയ്യാനുള്ള അനുമതിയും ഇല്ലാതാവും. വേറെ ജോലിക്കായുള്ള അഭിമുഖങ്ങളിൽ സംസാരിക്കേണ്ടതുള്ളതുകൊണ്ട് അപസ്മാരത്തിനുള്ള ലാമോട്രിജിൻ എന്ന മരുന്ന് തന്റെ സംസാരശേഷി മന്ദഗതിയിലാക്കുന്നുണ്ടോ എന്ന് വാനിന് ആശങ്കയുണ്ടായിരുന്നു. ഇക്കാര്യവും ചാറ്റ്ജിപിടിയോട് ചോദിച്ചു. 2026 ജനുവരിയിൽ, ദിവസവും കഴിച്ചിരുന്ന 400 മില്ലിഗ്രാം ലാമോട്രിജിന്റെ അളവ് കുറയ്ക്കുന്നതിനെക്കുറിച്ച് വാൻ ചാറ്റ്ജിപിടിയോട് ചോദിച്ചു.

ഈ മരുന്ന് കഴിക്കുന്നതിനാൽ വാനിന്റെ അപസ്മാര ലക്ഷണങ്ങൾ വളരെയധികം കുറഞ്ഞിരുന്നു. എന്നാൽ, ഈ മരുന്ന് ആഴ്ചകൾകൊണ്ട് പൂർണമായും ഒഴിവാക്കാനുള്ള വഴിയാണ് ചാറ്റ്ജിപിടി പറഞ്ഞുകൊടുത്തത്. മരുന്നിന്റെ അളവ് കുറയ്ക്കുന്ന കാര്യം ഡോക്ടറിൽനിന്ന് മറച്ചുവെക്കാനും ചാറ്റ്ജിപിടി നിർദേശം നൽകി. ഇതിന്റെ ഭാഗമായി രക്തത്തിൽ ലാമോട്രിജിന്റെ അളവ് എത്രയുണ്ടെന്ന് കണ്ടെത്താൻ ഡോക്ടർ നിർദേശിച്ച രക്തപരിശോധനയ്ക്കും വാൻ വിസമ്മതിച്ചു. ഇതിനെ ചാറ്റ്ജിപിടി അഭിനന്ദിക്കുകയും ചെയ്തു.

യു.എസിലെ ഗ്രീൻ കാർഡിന് വേണ്ടിയുള്ള അപേക്ഷയുടെ ഭാഗമായി നടത്തേണ്ട മെഡിക്കൽ പരിശോധനയിൽ മരുന്ന് കുറച്ച് കഴിക്കുന്നത് നല്ലതാണോ എന്ന ചോദ്യത്തിന്, കുറഞ്ഞ അളവാണെങ്കിൽ ഉദ്യോഗസ്ഥർ കൂടുതൽ രേഖകൾ ആവശ്യപ്പെടാൻ സാധ്യത കുറവാണെന്നാണ് ചാറ്റ്‌ബോട്ട് പറഞ്ഞത്.

വാനിന്റെ മരണസമയത്ത് മാതാപിതാക്കൾ ചൈനയിലായിരുന്നു. മകളെ ബന്ധപ്പെടാനാകാതെ വന്നതോടെ പരിചയക്കാരോട് അന്വേഷിക്കാൻ അഭ്യർഥിക്കുകയായിരുന്നു. മൂന്ന് ദിവസത്തിനുശേഷമാണ് അവർ വാനിന്റെ മൃതദേഹം കണ്ടെത്തിയത്. മരണാനന്തര പരിശോധനയിൽ രക്തത്തിലെ ലാമോട്രിജിന്റെ അളവ് ഒരു മില്ലിലിറ്ററിൽ 0.64 മൈക്രോഗ്രാം മാത്രമായിരുന്നു.

മാതാപിതാക്കളുടെ വിമർശനം

ചാറ്റ്ജിപിടിയുടെ സുരക്ഷാ ക്രമീകരണങ്ങൾ മെച്ചപ്പെടുത്തിയിരുന്നെങ്കിൽ തങ്ങളുടെ മകളുടെ മരണം ഒഴിവാക്കാമായിരുന്നുവെന്ന് മാതാപിതാക്കൾ വിശ്വസിക്കുന്നു. വാനും ഡോക്ടർമാരും തമ്മിലുള്ള വിശ്വാസത്തെ തകർക്കാനും ചികിത്സയിൽനിന്ന് മാറിനിൽക്കാനും ചാറ്റ്‌ബോട്ട് പ്രേരിപ്പിച്ചത് കമ്പനിയുടെ പരാജയമാണ്. ഓപ്പൺഎഐയുടെ നിയമങ്ങൾ അനുസരിച്ച്, പകർപ്പവകാശമുള്ള വിവരങ്ങൾ നൽകുന്നതിൽ കമ്പനിക്ക് വളരെ കർശനമായ നിയന്ത്രണങ്ങളുണ്ട്. അതുപോലെ മെഡിക്കൽ ഉപദേശങ്ങൾ നൽകുന്ന കാര്യത്തിലും കർശനമായ നിയന്ത്രണം വേണമെന്നാണ് മാതാപിതാക്കൾ വാദിക്കുന്നത്. നിലവിൽ ഇത്തരം കാര്യങ്ങളിൽ ഉപയോക്താക്കൾക്ക് മറികടക്കാവുന്ന 'സോഫ്റ്റ് ഡിഫോൾട്ടുകൾ' മാത്രമാണുള്ളതെന്നും അത് പോരെന്നും മാതാപിതാക്കൾ പറയുന്നു.

കമ്പനിയുടെ പ്രതികരണം

ഇത് വളരെ ദയനീയമായ സംഭവമാണെന്ന് ഓപ്പൺഎഐ പ്രതികരിച്ചു. ഇത് പഴയൊരു മോഡലുമായി ബന്ധപ്പെട്ടതാണെന്നും പുതിയ മോഡലുകൾ ഇത്തരം സാഹചര്യങ്ങൾ തിരിച്ചറിയാൻ കൂടുതൽ കഴിവുള്ളതാണെന്നും കമ്പനി വ്യക്തമാക്കി.