AI മനുഷ്യനെ കൊന്നൊടുക്കുമോ? ചർച്ചയായി മുന്നറിയിപ്പ്, ടെക് കമ്പനി മേധാവികൾ ഭയപ്പെടുന്നതെന്ത്?

എഐ (നിർമിതബുദ്ധി) കമ്പനികൾ മനുഷ്യ ജീവൻവെച്ച് ചൂതുകളിക്കുകയാണോ? വലിയ ശ്രദ്ധ നേടുകയാണ് മുൻനിര എഐ കമ്പനിയായ ആന്ത്രോപിക്കിൽനിന്ന് രാജിവെച്ച എഐ ഗവേഷകൻ ജേക്കബ് കോക്‌സണിന്റെ വാക്കുകൾ. താൻ ജോലി ചെയ്തിട്ടുള്ള ഓപ്പൺഎഐയും ആന്ത്രോപിക്കും ഉത്തരവാദിത്വത്തോടെയല്ല പ്രവർത്തിക്കുന്നതെന്നും ഈ ദശാബ്ദത്തിന്റെ അവസാനത്തോടെ എഐ ടൂളുകൾ മനുഷ്യരെ കൊന്നൊടുക്കിയേക്കാം എന്നാണ് അവ വികസിപ്പിക്കുന്നവർ വിശ്വസിക്കുന്നതെന്നും ജേക്കബ് കോക്‌സൺ വെളിപ്പെടുത്തുന്നു. ഇതോടെയാണ് സൂപ്പർ ഇന്റലിജൻസിനെക്കുറിച്ചുള്ള ആശങ്ക വീണ്ടും സജീവമാകുന്നത്.

'എഐ കമ്പനി മേധാവികൾ ഭയപ്പെടുന്നു'

'ഇന്ന് ആന്ത്രോപ്പിക്കിൽ നിന്ന് രാജി വെച്ചു. കഴിഞ്ഞ മൂന്ന് വർഷമായി ഓപ്പൺഎഐയിലും ആന്ത്രോപ്പിക്കിലും പ്രീട്രെയിനിങ് ഗവേഷണമാണ് ചെയ്തിരുന്നത്. രണ്ട് കമ്പനികളും ഉത്തരവാദിത്തത്തോടെയല്ല പ്രവർത്തിക്കുന്നത്. അവർ സ്വയം മെച്ചപ്പെടുത്തുന്ന സൂപ്പർഇന്റലിജൻസ് വികസിപ്പിക്കാൻ മത്സരിക്കുകയും നമ്മുടെ ജീവൻ വെച്ച് ചൂതുകളിക്കുകയുമാണ്.’

'എഐ വികസിപ്പിക്കുന്നവർ ആത്മാർഥമായി വിശ്വസിക്കുന്നത് ഈ ദശാബ്ദത്തിന്റെ അവസാനത്തോടെ അത് നമ്മെ എല്ലാവരെയും കൊന്നേക്കാം എന്നാണ്. ഇതൊരു മാർക്കറ്റിങ് തന്ത്രമല്ല. മാധ്യമങ്ങൾക്ക് മുന്നിൽ പല എക്‌സിക്യൂട്ടീവുകളും മുതിർന്ന ഗവേഷകരും വിവേകത്തോടെ സംസാരിക്കാൻ വാക്കുകൾ മയപ്പെടുത്താറുണ്ട്. എന്നാൽ ഇതേ ആളുകൾ തന്നെ സ്വകാര്യമായി ഭയം പ്രകടിപ്പിക്കുന്നത് ഞാൻ കേട്ടിട്ടുണ്ട്. മനുഷ്യന്റെ മറ്റ് യാതൊരു പ്രവർത്തനവും ഈ അളവിൽ അപകടം സൃഷ്ടിക്കുന്നില്ല.' - ജേക്കബ് കോക്‌സൺ പറയുന്നു.

'ഈ സാങ്കേതികവിദ്യയുടെ ശക്തിയെ കുറച്ചുകാണരുത്. എന്തിനെയും ഹാക്ക് ചെയ്യാനും, ഏത് മേഖലയെയും ഒറ്റരാത്രികൊണ്ട് മാറ്റിമറിക്കാനും, യഥാർത്ഥ അധികാരവും വിഭവങ്ങളും കൈക്കലാക്കാനും കഴിയുന്ന അതിമാനുഷിക സിസ്റ്റങ്ങളായി (സൂപ്പർ ഹ്യൂമൻ സിസ്റ്റംസ്) ഇവ ഉടൻ തന്നെ മാറും. ഈ മേഖലകളിലെല്ലാം പുരോഗതിക്ക് സാക്ഷ്യം വഹിച്ചിട്ടുണ്ട്, പുരോഗതി മന്ദീഭവിക്കുന്നുമില്ല.' - അദ്ദേഹം കൂട്ടിച്ചേർത്തു

എഐ മത്സരത്തിന്റെ ഞെട്ടിക്കുന്ന യാഥാർഥ്യത്തിലേക്കാണ് കോക്‌സണിന്റെ വാക്കുകൾ വിരൽ ചൂണ്ടുന്നതെന്ന് വിദഗ്ധർ വിലയിരുത്തുന്നു. ഓപ്പൺഎഐയിൽ അപകടത്തിന്റെ ഗൗരവം പൂർണ്ണമായി ഉൾക്കൊണ്ടിട്ടില്ലെന്ന് അദ്ദേഹം പറയുന്നു. ആന്ത്രോപ്പിക്കിന് അത് മനസ്സിലായിട്ടുണ്ട്. എന്നാൽ മത്സരത്തിൽ തോറ്റുപോകുമോ എന്ന ഭയം അവർക്കുണ്ട്. അതിനാൽ അപകടം മുന്നിൽക്കണ്ട് തന്നെ അവർ മുന്നോട്ടുപോകുന്നുവെന്നും കോക്‌സൺ പറയുന്നു. എഐ ഏജന്റുകൾ അടുത്തിടെ നടത്തിയ ഹഗ്ഗിങ് ഫേസ് ഹാക്കിങ്ങടക്കം അദ്ദേഹം ചൂണ്ടിക്കാട്ടുന്നു.

പറഞ്ഞത് ശരിതന്നെ, സ്ഥിരീകരിച്ച് ആന്ത്രോപിക്ക്

പോസ്റ്റിനോട് പ്രതികരിച്ച് ആന്ത്രോപ്പിക്കിലെ അലൈൻമെന്റ് സയൻസ് ലീഡ് ഇവൻ ഹൂബിംഗർ രംഗത്തെത്തി. ജേക്കബ് കോക്‌സൺ പറഞ്ഞത് ശരിയാണ്. എഐ എല്ലാ മനുഷ്യരെയും കൊന്നേക്കാമെന്ന് ഞങ്ങൾ ആത്മാർഥമായി വിശ്വസിക്കുന്നു. അടുത്ത ദശാബ്ദത്തിനുള്ളിൽ അതിനുള്ള സാധ്യത 10 ശതമാനത്തിൽ കൂടുതലാണെന്ന് കരുതുന്നു. ആന്ത്രോപ്പിക് പരമാവധി ശ്രദ്ധ ചെലുത്തുന്നുണ്ട്.

നിലവിലെ മോഡലുകളിൽ നിന്നുള്ള അപകടസാധ്യത കുറവാണ്. എന്നാൽ ആവർത്തിച്ചുള്ള സ്വയം മെച്ചപ്പെടുത്തലിലൂടെ (recursive self-improvement) ഉണ്ടാകുന്ന സൂപ്പർഇന്റലിജൻസിനെക്കുറിച്ചാണ് ആശങ്ക. പ്രതീക്ഷിച്ചതിനെക്കാൾ വേഗത്തിലാണ് അതിന്റെ മുന്നേറ്റമെന്നും അദ്ദേഹം പറയുന്നു.

എഐ മനുഷ്യനെ കൊല്ലുന്നതെങ്ങനെ?

മനുഷ്യരാശിയെ എഐ ഇല്ലാതാക്കിയേക്കാം എന്ന ആശങ്ക ശാസ്ത്രലോകത്ത് ഏറെക്കാലമായി സജീവമായ ചർച്ചാ വിഷയമാണ്. എഐ റോബോട്ടുകൾ മനുഷ്യരെ കൊന്നൊടുക്കുന്ന സാഹചര്യമല്ല അതുകൊണ്ട് അർഥമാക്കുന്നത്. സ്വയം മെച്ചപ്പെടുന്ന സൂപ്പർ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ മാരകമായ വൈറസുകളെയടക്കം സൃഷ്ടിക്കുന്ന സാഹചര്യം, മനുഷ്യന്റെ നിയന്ത്രണമില്ലാതെ പ്രവർത്തിക്കുന്ന ഡ്രോണുകൾ അടക്കമുള്ള ഓട്ടോണമസ് ആയുധങ്ങൾ എന്നിവയെല്ലാം മനുഷ്യരാശിയുടെ നിലനിൽപ്പിനുതന്നെ ഭീഷണി ഉയർത്തിയേക്കാം എന്ന് ഗവേഷകർ ചൂണ്ടിക്കാട്ടുന്നു. എഐ സംവിധാനങ്ങൾ ഹാക്കിങ്ങിലൂടെ വൈദ്യുതി വിതരണ ശൃംഘല, ജലശുദ്ധീകരണ സംവിധാനങ്ങൾ, ഗതാഗത സംവിധാനങ്ങൾ എന്നിവ തകർക്കാനിടയായാൽ ഉണ്ടാകാനിടയുള്ള അപകടവും മനുഷ്യജീവന് ഭീഷണിയായേക്കാം എന്ന് ചൂണ്ടിക്കാണിക്കപ്പെടുന്നു.

Content Highlights: AI researcher Jacob Coxon resigned from Anthropic after three years., Coxon claims top AI labs are racing toward self-improving superintelligence and gambling with human lives., Anthropic's Alignment Science Lead Evan Hubinger admitted the company lacks a definitive plan to solve alignment for superintelligence., Elon Musk recently shifted his stance, praising Anthropic as a current leader in AI development.