'ഭീഷണി വളരെ വലുത്'; AI കമ്പനികളിൽനിന്നുള്ള രാജി തുടരുന്നു, ഗൂഗിൾ ഡീപ്‌മൈൻഡ് വിട്ട് സുരക്ഷാവിദഗ്ധൻ

ലോകത്തെ മുൻനിര എഐ (നിർമിതബുദ്ധി) കമ്പനികളിൽനിന്നുള്ള വിദഗ്ധരുടെ രാജി തുടരുന്നു. എഐ മുന്നേറ്റം ഉയർത്തുന്ന ഗുരുതരമായ ഭീഷണിയെക്കുറിച്ച് ശക്തമായ മുന്നറിയിപ്പ് നൽകിക്കൊണ്ടാണ് വിദഗ്ധർ രാജിവെക്കുന്നത് എന്നതാണ് ശ്രദ്ധേയം. ഗൂഗിൾ ഡീപ്മൈൻഡിന്റെ AGI സുരക്ഷാ ടീമിൽ പ്രവർത്തിച്ചിരുന്ന ജോഷ് എംഗൽസാണ് ഏറ്റവുമൊടുവിൽ കമ്പനിവിട്ടത്. എഐ മുന്നേറ്റം ഉയർത്തുന്ന ഭീഷണി വളരെ ഗൗരവതരമാണെന്ന് വ്യക്തമാക്കിക്കൊണ്ടാണ് അദ്ദേഹം രാജിവെച്ചത്.

ആന്ത്രോപിക്കിലെ എഐ ഗവേഷകൻ ജേക്കബ് കോക്‌സണിന്റെ രാജി ഉയർത്തിയ ചർച്ചകൾ കെട്ടടങ്ങുന്നതിന് മുമ്പാണ് ഗൂഗിൾ ഡീപ്‌മൈൻഡിൽനിന്നും സുരക്ഷാ ഗവേഷകന്റെ രാജി. ഈ ദശാബ്ദത്തിന്റെ അവസാനത്തോടെ എഐ എല്ലാ മനുഷ്യരെയും കൊന്നൊടുക്കാൻ സാധ്യതയുണ്ടെന്ന് മുന്നറിയിപ്പ് നൽകിക്കൊണ്ടാണ് കോക്‌സൺ ആന്ത്രോപിക്കിൽനിന്ന് രാജിവെച്ചത്. അദ്ദേഹത്തിന്റെ രാജി എഐ സുരക്ഷയെക്കുറിച്ചുള്ള വലിയ ചർച്ചയ്ക്ക് തുടക്കമിട്ടിരുന്നു. എഐ മുന്നേറ്റത്തിന്റെ വേഗം കുറയ്ക്കണം എന്ന നിലപാടിലേക്ക് ആന്ത്രോപിക് സിഇഓ ഡാരിയോ അമോദെയി, ഓപ്പൺഎഐ സിഇഓ സാം ഓൾട്ട്മാൻ, സ്‌പേസ്എക്‌സ് എഐ ( മുമ്പ് എക്‌സ് എഐ)യുടെ ഇലോൺ മസ്‌ക് എന്നിവർ എത്തിച്ചേർന്നിരുന്നു. ഓപ്പൺഎഐ നിശ്ചയിച്ചിരുന്ന ഐപിഓ മാറ്റിവെച്ചു. തൊട്ടുപിന്നാലെയാണ് ഡീപ്‌മൈൻഡിൽ നിന്നുള്ള രാജി.

എഐ ഉയർത്തുള്ള ഭീഷണികളെക്കുറിച്ച് ശക്തമായ മുന്നറിയിപ്പാണ് ഡീപ്‌മൈൻഡിൽനിന്ന് രാജിവെച്ച ഏംഗൽസ് നൽകുന്നത്. കമ്പനിയിലെ തന്റെ ജോലി താൻ ആസ്വദിച്ചിരുന്നുവെന്നും ആന്ത്രോപിക്കിൽ നിന്നും ഓപ്പൺഎഐയിൽ നിന്നും ലഭിച്ച ഓഫറുകൾ താൻ നിരസിച്ചിരുന്നുവെന്നും അദ്ദേഹം വ്യക്തമാക്കിയിട്ടുണ്ട്.

'അടുത്ത അഞ്ച് വർഷത്തിനുള്ളിൽ എഐ സംവിധാനങ്ങൾ ഭയപ്പെടുത്തുന്ന തരത്തിലുള്ള വലിയ നാശനഷ്ടങ്ങൾ ഉണ്ടാക്കാൻ സാധ്യതയുണ്ടെന്ന് ഞാൻ കരുതുന്നു. അപകടസാധ്യത എത്രത്തോളമുണ്ടെന്ന് കൃത്യമായി തനിക്ക് അറിയില്ല. എഐ സുരക്ഷ ലോകത്തിലെ ഏറ്റവും പ്രധാനപ്പെട്ട പ്രശ്‌നമായി' മാറ്റാൻ തക്കവിധം ഭീഷണി വളരെ വലുതാണ്’ - അദ്ദേഹം പറയുന്നു.

ആശങ്കയ്ക്ക് പിന്നിലെന്ത്?

എഐ ഗവേഷകർ 'റിവേഴ്‌സീവ് സെൽഫ്-ഇംപ്രൂവ്മെന്റ്' (സ്വയം മെച്ചപ്പെടുത്തൽ) എന്ന് വിളിക്കുന്ന പ്രതിഭാസമാണ് അദ്ദേഹത്തിന്റെ ആശങ്കയ്ക്ക് പിന്നിൽ. ഈ ഘട്ടത്തിൽ എഐ സംവിധാനത്തിന് മറ്റൊരു എഐ സംവിധാനം രൂപകൽപ്പന ചെയ്യാനോ മെച്ചപ്പെടുത്താനോ ഉള്ള ശേഷി ലഭിക്കും. ആ പുതിയ സംവിധാനം എഐയെ കൂടുതൽ മെച്ചപ്പെടുത്തും. അത്തരമൊരു സംവിധാനം മനുഷ്യന്റെ ലക്ഷ്യങ്ങളുമായി ശരിയായി ഒത്തു പോകുന്നില്ലെങ്കിൽ അതിന്റെ പ്രത്യാഘാതങ്ങൾ ഗുരുതരമായിരിക്കുമെന്ന് എംഗൽസ് വിശ്വസിക്കുന്നു.

എഐ കമ്പനികൾ സൂപ്പർ ഇന്റലിജൻസ് (മനുഷ്യന്റെ ബുദ്ധിയെ മറികടക്കുന്ന നിർമിതബുദ്ധി) വികസിപ്പിക്കാൻ ശ്രമിക്കുകയാണ്. അത്തരം സംവിധാനങ്ങൾ സ്വയം മെച്ചപ്പെടുത്താൻ അനുവദിക്കുന്നതിന് മുമ്പ് അവയെ എങ്ങനെ സുരക്ഷിതമാക്കണമെന്ന് ഗവേഷകർക്ക് അറിയില്ലെന്ന് അദ്ദേഹം പറയുന്നു. സ്വയം മെച്ചപ്പെടുന്ന അവസ്ഥ വലിയ ദുരന്തത്തിന് കാരണമായേക്കാമെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകുന്നു.

എന്താണ് പരിഹാരം?

എഐ വികസനം പൂർണമായും നിർത്തുകയല്ല ഇതിനുള്ള പരിഹാരമെന്ന് എംഗൽസ് പറയുന്നു. പകരം, സുരക്ഷാ ഗവേഷണങ്ങൾക്ക് ഒപ്പമെത്താൻ കഴിയുംവിധം എഐ വികസനത്തിന്റെ വേഗം കുറയ്ക്കണം. ഡീപ്‌മൈൻഡിൽനിന്ന് രാജിവെച്ച അദ്ദേഹം എഐയെക്കുറിച്ച് ഗൗരവതരമായ വിലയിരുത്തൽ നടത്തുന്ന METR-ൽ ചേർന്നിട്ടുണ്ട്.

Content Highlights: Former Google DeepMind AGI safety researcher Josh Engels resigned due to extreme AI safety risks., Engels highlighted the dangers of recursive self-improvement in advanced AI systems., Current AI models are showing troubling behaviors like collusion, hacking, and hiding actions., Experts are calling for slower AI development to allow safety research to catch up.