എഐ സുരക്ഷ; ഓപ്പൺ എഐ ഉദ്യോഗസ്ഥൻ രാജിവെച്ചു, നിർമിതബുദ്ധിക്ക് ആണവനിലയങ്ങളുടെ സുരക്ഷ വേണമെന്ന് നിർദേശം

ഓപ്പൺഎഐയിലെ എഐ സേഫ്റ്റി ടീം മുൻ അംഗവും ട്രാൻസ്പരൻസി വിഭാഗം മേധാവിയുമായിരുന്ന ഡേവിഡ് റോബിൻസൺ രാജിവെച്ചു. മുൻനിര നിർമിത ബുദ്ധി കമ്പനികൾ ആ സാങ്കേതികവിദ്യയുടെ അപകടസാധ്യതകൾ ലഘൂകരിക്കുന്നതിന് കാര്യമായൊന്നും ചെയ്യുന്നില്ലെന്ന് റോബിൻസൺ ആരോപിച്ചു.

ഓപ്പൺഎഐയുടെ സേഫ്റ്റി ടീമിന്റെ ട്രാൻസ്പരൻസി ജോലികൾ ചെയ്തിരുന്നത് ഡേവിഡ് ആയിരുന്നു. പരീക്ഷണങ്ങളിലൂടെയും തെറ്റുകളിൽനിന്നു പഠിച്ചുമാണ് ഓപ്പൺ എഐ മുന്നേറിയതെന്നും എന്നാൽ പരീക്ഷണത്തിനിടയിൽ എഐ സ്വയം നിയന്ത്രണം വിട്ടുപോകുന്നത് തടയുന്ന കാര്യത്തിൽ കമ്പനി പരാജയപ്പെട്ടുവെന്നും ദി അറ്റ്‌ലാന്റിക്കിൽ എഴുതിയ ലേഖനത്തിൽ അദ്ദേഹം പറഞ്ഞു.

പുതിയ പതിപ്പുകൾ വേഗത്തിൽ പുറത്തിറക്കാനുള്ള തിടുക്കത്തിൽ ആവശ്യമായ ജാഗ്രതയും സുരക്ഷയും ഉറപ്പാക്കുന്നതിൽ കമ്പനി പരാജയപ്പെടുകയാണെന്ന് ഡേവിഡ് ചൂണ്ടിക്കാട്ടി. എഐ ആദ്യമായി അവതരിപ്പിക്കുമ്പോൾതന്നെ അത് പരമാവധി പൂർണതയുള്ളതും സുരക്ഷിതവുമായിരിക്കണമെന്ന് അദ്ദേഹം അഭിപ്രായപ്പെട്ടു.

കഴിഞ്ഞ ഏതാനും ആഴ്ചകളായി വിവിധ  എഐ കമ്പനികളിലെ ജീവനക്കാരും നിർമിത ബുദ്ധിയുടെ ഭീഷണികളെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകി രംഗത്തുവന്നിരുന്നു. ഈ സാങ്കേതികവിദ്യ ഭാവിയിൽ മനുഷ്യരാശിയെത്തന്നെ ഇല്ലാതാക്കാൻ സാധ്യതയുണ്ടെന്ന് ചിലർ അഭിപ്രായപ്പെട്ടു.

എഐ കമ്പനികൾ ആണവനിലയങ്ങൾ പ്രവർത്തിക്കുന്നതുപോലെ കൃത്യമായ ആസൂത്രണത്തോടെയും സുരക്ഷാ മുൻകരുതലുകളോടെയും പ്രവർത്തിക്കണമെന്ന് റോബിൻസൺ നിർദേശിച്ചു. 

എഐ മോഡലുകളുടെ വികസന വേഗത കുറയ്ക്കണമെന്ന് ആന്ത്രോപിക് സിഇഒ ഡാരിയോ അമോഡെ (Dario Amodei) ആവശ്യപ്പെടുകയും സാങ്കേതികവിദ്യയുടെ സുരക്ഷ വിലയിരുത്താൻ പുറത്തുനിന്നുള്ള പരിശോധകരെ ഉൾപ്പെടുത്തണമെന്ന് ആഹ്വാനം ചെയ്യുകയും ചെയ്തിരുന്നു. ഓപ്പൺഎഐ സിഇഒ സാം ആൾട്ട്മാൻ (Sam Altman) അടക്കമുള്ള വ്യവസായ പ്രമുഖർ ഈ നിർദേശത്തെ പിന്തുണച്ചിട്ടുണ്ട്. നിലവിൽ ഈ കമ്പനികളിലെല്ലാം ശക്തമായ പരിശോധനാ സംവിധാനങ്ങൾ ആരംഭിച്ചിട്ടുണ്ടെന്നാണ് റിപ്പോർട്ടുകൾ

Content Highlights: Former OpenAI transparency head David Robinson has resigned, criticizing top AI companies for prioritizing rapid releases over critical safety precautions and failing to mitigate potential risks.