എഐ എങ്ങനെ മനുഷ്യരെ കൊല്ലും? അതെങ്ങനെ വംശനാശത്തിന് കാരണമാവും? നിർമിതബുദ്ധിയിലെ 5 അപകടങ്ങൾ
ഇത്രയുംനാൾ നിർമിതബുദ്ധിയുടെ (എഐ) ഗുണകരമായ വശത്തെക്കുറിച്ചുമാത്രം ചർച്ച ചെയ്യുകയും എഐയുടെ ഭാവി സംബന്ധിച്ച് ശുഭാപ്തിവിശ്വാസംമാത്രം ആഹ്വാനം ചെയ്യുകയും ചെയ്ത കമ്പനികൾ ഇന്ന് അവരുടെ മനസ്സ് മാറ്റിയിരിക്കുകയാണ്. തുടക്കംമുതൽ എഐയോടുള്ള മത്സരാത്മകമായ സമീപനത്തോടുള്ള വിമർശനങ്ങളെ തള്ളിക്കളഞ്ഞ ഓൾട്ട്മാൻ ഉൾപ്പെടെയുള്ളവർ ഇന്ന് പറയുന്നത് എഐയ്ക്ക് നിയന്ത്രണം വേണമെന്നും അത് നിർമിക്കുന്നതിന്റെ വേഗം കുറയ്ക്കണമെന്നുമാണ്. എഐ വിദഗ്ധർ ഒന്നിനുപിന്നാലെ ഒന്നായി വന്നുപറയുകയാണ്: എഐ മനുഷ്യവംശനാശത്തിന് വഴിവെക്കുമെന്ന്, അത് മനുഷ്യരെ കൊല്ലുമെന്ന്.
അടുത്ത മൂന്നു വർഷത്തിനുള്ളിൽത്തന്നെ മനുഷ്യർ ഒരു വംശനാശത്തെ നേരിടേണ്ടിവരുമെന്നാണ് ഓപ്പൺ എഐ സുരക്ഷാ ഗവേഷകനായ മാർക്കസ് വില്യംസ് പറയുന്നത്. എഐ സൂപ്പർ ഇന്റലിജൻസിനെ കൃത്യമായ മുൻകരുതലുകളോടെയും സുരക്ഷാ മാനദണ്ഡങ്ങളോടെയും വികസിപ്പിച്ചില്ലെങ്കിൽ, അതിന്റെ നിയന്ത്രണം നമുക്ക് എന്നെന്നേക്കുമായി നഷ്ടപ്പെടുമെന്നും അങ്ങനെ സംഭവിച്ചാൽ ഭൂരിഭാഗം മനുഷ്യരും കൊല്ലപ്പെടാൻ സാധ്യതയുണ്ടെന്നും തുറന്നുപറഞ്ഞത് മുൻ അമേരിക്കൻ ഗവൺമെന്റ് സാങ്കേതിക ഉപദേഷ്ടാവും ഓപ്പൺ എഐയുടെ ബോർഡ് ആൻഡ് സേഫ്റ്റി കമ്മിറ്റി അംഗവുമായ പോൾ ക്രിസ്റ്റ്യാനോയാണ്.
പക്ഷേ, നിർമിതബുദ്ധിക്ക് എങ്ങനെ മനുഷ്യരെ കൊല്ലാനാവും, അത് എങ്ങനെയാണ് ഒരു വംശനാശത്തിലേക്ക് വഴിവെക്കുക?
എഐ എങ്ങനെ മനുഷ്യരെ കൊല്ലും?
എഐയുടെ വികാസത്തിനിടെ സംഭവിക്കാവുന്ന രണ്ടു പ്രധാനപ്പെട്ട സാഹചര്യങ്ങളാണ് വിദഗ്ധർ ഏറെ ഭയപ്പെടുന്നത്.
- അതിശക്തമായ നിർമിതബുദ്ധിയെ മനുഷ്യർ ആയുധമായി ഉപയോഗിക്കുന്ന ഘട്ടമാണ് അതിലൊന്ന്.
- എന്തും ചെയ്യാൻ കഴിവുള്ള, അതിശക്തമായ എഐയ്ക്കുമേലുള്ള കടിഞ്ഞാൺ മനുഷ്യർക്ക് നഷ്ടമാകുമെന്നതാണ് രണ്ടാമത്തെ ഘട്ടം.
എഐടി ഫ്യൂച്ചർ ടെക്കും ക്വീൻസ്ലാൻഡ് സർവകലാശാലയും നടത്തിയ പുതിയ പഠനത്തിൽ എഐ ഉയർത്തുന്ന അഞ്ചു അപകട സാഹചര്യങ്ങൾ മുന്നോട്ടുവെക്കുന്നുണ്ട്.
- എഐ അപകടകരമായ ശേഷി കൈവരിക്കുന്നത് –ആയുധനിർമാണവും കൈവശംവെക്കലും, സൈബർ ആക്രമണങ്ങൾ, മനുഷ്യരെ തെറ്റിദ്ധരിപ്പിക്കലും സ്വാധീനിക്കലും, സ്വയം വികസിക്കാനും പെരുകാനുമുള്ള ശേഷി, രാഷ്ട്രീയനയതന്ത്രം, സാഹചര്യങ്ങൾ തിരിച്ചറിയാനുള്ള കഴിവ് എന്നിവയുള്ള എഐ സംവിധാനങ്ങൾ യാഥാർഥ്യമായാൽ അത് വലിയ ഭീഷണിയായേക്കാം. മനുഷ്യരുടെ ദുരുപയോഗം മൂലമോ നിർമാണത്തിലെ പാളിച്ചകൾ മൂലമോ സാങ്കേതിക തകരാറുകൾ കാരണമോ ഇത്തരം കഴിവുകൾ മനുഷ്യരാശിയുടെതന്നെ നിലനിൽപ്പിന് ഭീഷണിയാകാൻ സാധ്യതയുണ്ട്. ഇത്തരമൊരു സാഹചര്യത്തിന് 21% സാധ്യതയുണ്ടെന്നാണ് പഠനത്തിൽ പറയുന്നത്.
- മത്സരാധിഷ്ഠിത അന്തരീക്ഷം – സാമ്പത്തികമോ തന്ത്രപരമോ ആയ മുൻതൂക്കം നേടുന്നതിനായി എഐ ഡെവലപ്പർമാരും രാജ്യങ്ങളും തമ്മിൽ നടത്തുന്ന അതിവേഗമത്സരം സുരക്ഷിതമല്ലാത്തതും പിഴവുകൾ നിറഞ്ഞതുമായ സിസ്റ്റങ്ങൾ തിടുക്കത്തിൽ പുറത്തിറക്കുന്നതിനും വിന്യസിക്കുന്നതിനും കാരണമാകുന്നു. അത് ക്രമേണ മനുഷ്യവംശത്തിന് തന്നെ തിരിച്ചടിയാവുന്നു. 16.6% സാധ്യതയാണ് ഗവേഷകർ ഇത്തരമൊരു സാഹചര്യത്തിന് കൽപിക്കുന്നത്.
- സൈബർ ആക്രമണങ്ങൾ, ആയുധവികസനം, വലിയ നാശനഷ്ടം - കുറഞ്ഞ ചെലവിൽ കൂടുതൽ ഫലപ്രദമായ മാൽവെയറുകൾ ഉണ്ടാക്കി സൈബർ ആയുധങ്ങൾ വികസിപ്പിക്കുക, സ്വയം പ്രവർത്തിക്കുന്ന മാരകമായ ആയുധങ്ങൾ, രാസ-ജൈവ-റേഡിയോ ആക്ടീവ് ആയുധങ്ങൾ നിർമിക്കുക അല്ലെങ്കിൽ മെച്ചപ്പെടുത്തുക, വലിയ നാശനഷ്ടങ്ങൾക്ക് ഈ ആയുധങ്ങൾ ഉപയോഗിക്കുക തുടങ്ങിയ സാഹചര്യങ്ങളും സൃഷ്ടിക്കപ്പെട്ടേക്കാം. ഇതിന് 21% സാധ്യതയുണ്ടെന്നാണ് പഠനത്തിൽ പറയുന്നത്.
- അധികാരകേന്ദ്രീകരണവും നിർമിതബുദ്ധിയുടെ നേട്ടങ്ങളുടെ വിതരണത്തിലുള്ള അസമത്വവും- എഐ സംവിധാനങ്ങളിൽ പ്രവേശനാധികാരമുള്ള ചില വ്യക്തികളിലോ സ്ഥാപനങ്ങളിലോ ഗ്രൂപ്പുകളിലോ മാത്രം അധികാരവും വിഭവങ്ങളും കേന്ദ്രീകരിക്കപ്പെടുന്ന സാഹചര്യം സൃഷ്ടിക്കപ്പെട്ടേക്കാം. ലോകത്തെ സർവാധിപത്യം നിശ്ചയിക്കുന്നത് ശക്തമായ എഐ കൈവശമുള്ളതിന്റെ അടിസ്ഥാനത്തിലായിരിക്കാം. ഇത് ലോകസമൂഹത്തിൽ വലിയ അസമത്വത്തിനും അനീതിക്കും വഴിവെക്കുന്ന സ്ഥിതിയുണ്ടാക്കും. അതിന് 18% സാധ്യതയുണ്ടെന്നാണ് പഠനത്തിൽ പറയുന്നത്.
- തെറ്റായതും തെറ്റിദ്ധരിപ്പിക്കുന്നതുമായ വിവരങ്ങൾ-എഐ സംവിധാനങ്ങൾ അബദ്ധവശാൽ വ്യാജമോ തെറ്റിദ്ധരിപ്പിക്കുന്നതോ ആയ വിവരങ്ങൾ നിർമിക്കുകയോ പ്രചരിപ്പിക്കുകയോ ചെയ്യാം. അത് ആളുകളിൽ തെറ്റായ ധാരണകൾ ഉണ്ടാക്കുകയും, ഇത്തരം തെറ്റായ വിവരങ്ങളുടെ അടിസ്ഥാനത്തിൽ തീരുമാനങ്ങളെടുക്കുമ്പോൾ വ്യക്തികൾക്ക് ശാരീരികവും മാനസികവും സാമ്പത്തികവുമായ വലിയ നാശനഷ്ടങ്ങൾ സംഭവിക്കുകയും ചെയ്യാം. ഇത് സമൂഹത്തിൽ വലിയ പ്രത്യാഘാതങ്ങൾ സൃഷ്ടിക്കാം. 12.8% സാധ്യതയാണ് ഇതിന് കൽപിക്കപ്പെടുന്നത്.
നിയന്ത്രണം വിട്ടുപോവുന്ന ഘട്ടം- സർവനാശത്തിന്റെ തുടക്കം
അതിശക്തമായ എഐ മനുഷ്യരുടെ മേൽനോട്ടപരിധി ലംഘിച്ച് സ്വയം പ്രവർത്തിക്കുന്നു. തന്റെ പകർപ്പുകളുണ്ടാക്കുന്നു, അതിനെ പ്രവർത്തനരഹിതമാക്കാനുള്ള മനുഷ്യരുടെ ശ്രമങ്ങളെ അത് തടയുന്നു. ഇത് കേവലം ഭീതി മാത്രമല്ല. അടുത്തിടെ ചില എഐ മോഡലുകൾ പരീക്ഷണത്തിനിടെ ശ്രമിച്ചത് ഇതൊക്കെത്തന്നെ. നിർമിത പൊതുബുദ്ധിയുടെ (Artificial General Intelligence) വരവോടെ ഇതെല്ലാം സംഭവിച്ചേക്കാമെന്നാണ് എഐ രംഗത്തെ പ്രമുഖർ വിശ്വസിക്കുന്നത്.
നിർമിതബുദ്ധി ശക്തിയാർജിക്കുന്നതോടെ മനുഷ്യവംശം ക്രമേണ ഇല്ലാതാവുമെന്നാണ് ഒരു വിഭാഗം നിരീക്ഷിക്കുന്നത്. എന്നാൽ, സമൂഹത്തിൽ മനുഷ്യജീവികൾക്കുള്ള ആധിപത്യം ഇല്ലാതാവുമെന്നും നാഗരികത നഷ്ടമാവുകയാണ് ചെയ്യുകയെന്നുമുള്ള നിരീക്ഷണം മറുവശത്തുണ്ട്.
അത്തരമൊരു സർവനാശസാഹചര്യത്തിന് 20% സാധ്യതയാണ് ഇലോൺ മസ്ക് കൽപിക്കുന്നത്. ആന്ത്രോപിക് മേധാവി ഡാരിയോ അമോഡേയുടെ കണക്കനുസരിച്ച് സർവനാശസാധ്യത 10 മുതൽ 20 ശതമാനംവരെയാണ്. എഐയുടെ ഗോഡ്ഫാദർ എന്ന് വിളിക്കുന്ന ജെഫ്രി ഹിന്റണും അമോഡേയുടെ അഭിപ്രായക്കാരനാണ്.
നിലവിലെ സാഹചര്യമെന്ത് ?
ഇന്നത്തെ പ്രധാന എഐ സിസ്റ്റങ്ങൾക്ക് മനുഷ്യരാശിയുടെ നിയന്ത്രണം പൂർണമായി നഷ്ടപ്പെടുത്താനുള്ള ശേഷിയില്ലെന്ന് വിദഗ്ധരും 2026-ലെ ഇന്റർനാഷണൽ എഐ സേഫ്റ്റി റിപ്പോർട്ടും വ്യക്തമാക്കുന്നു. അതുകൊണ്ടുതന്നെ രണ്ടോ മൂന്നോ വർഷത്തിനുള്ളിൽ വംശനാശ ഭീഷണിയെന്ന പ്രവചനങ്ങൾക്ക് എത്രത്തോളം അടിസ്ഥാനമുണ്ടെന്ന് പറയാനാവില്ല. എഐ മൂലം ഒരു സർവനാശം സംഭവിക്കണമെങ്കിൽ എഐ സംവിധാനങ്ങൾക്ക് ദീർഘകാലം സ്വയംനിയന്ത്രിക്കാനുള്ള ശേഷി, രഹസ്യമായി പ്രവർത്തിക്കാനുള്ള കഴിവ്, പരിശോധനകളിൽനിന്ന് രക്ഷപ്പെടാനുള്ള കഴിവ്, ഷട്ട്ഡൗൺ ചെയ്യാനുള്ള ശ്രമങ്ങൾ തടയൽ ഉൾപ്പെടെയുള്ള കഴിവുകളിൽ ഇനിയും മുന്നേറേണ്ടതുണ്ട്. എന്നാൽ, ഇന്നത്തെ വേഗത്തിൽ വികസന പ്രവർത്തനങ്ങൾ മുന്നോട്ട് പോയാൽ അത് സാധിക്കുമെന്നതിൽ സംശയമില്ല.
മനുഷ്യന്റെ ധാരണയ്ക്കപ്പുറത്തേക്ക് സ്വയം പ്രവർത്തിക്കുന്നതും ദോഷകരമായ രീതിയിൽ പെരുമാറുന്നതുമായ ചില എഐ ഏജന്റുകളുടെ ഉദാഹരണങ്ങൾ അടുത്ത കാലത്ത് കണ്ടെത്തിയതാണ് നിലവിലെ ആശങ്കകൾക്ക് കാരണം. എഐയുടെ അതിവേഗമുള്ള വികസനപ്രവർത്തനങ്ങൾ അവയെ തടയാനുള്ള മാർഗങ്ങൾ വികസിപ്പിക്കുന്നതിനേക്കാൾ വേഗത്തിലാണെന്ന തോന്നലാണ് നിലവിലെ ചർച്ചകൾക്ക് ആധാരം. എഐ മോഡലുകളുടെ വികസനം മന്ദഗതിയിലാക്കണമെന്നും കടുത്ത നിയന്ത്രണങ്ങൾ കൊണ്ടുവരണമെന്നുമുള്ള ആവശ്യം ഉയരുന്നത് ഇവിടെയാണ്.
Content Highlights: Leading tech leaders and researchers warn that unconstrained superintelligence, weaponization, and loss of human control over autonomous systems could pose an existential threat to humanity within years.