AI ‘സ്വയം നന്നാകുന്നത്’ തടയണം; ഗവേഷകനെ നിയമിക്കാൻ OpenAI; പ്രതിഫലം 4 കോടിരൂപ

മനുഷ്യരുടെ സഹായമില്ലാതെ നിർമിതബുദ്ധി (എഐ) സംവിധാനങ്ങൾ സ്വയം കൂടുതൽ മെച്ചപ്പെടുത്താൻ തുടങ്ങിയാൽ എന്തു സംഭവിക്കും? ചിന്തിക്കാൻ പോലും കഴിയാത്ത വലിയ അപകടങ്ങൾക്കാവും അത് ഇടയാക്കുക. ഈ സാഹചര്യം മുന്നിൽക്കണ്ട്, കൂടുതൽ ശക്തമായി മാറാനിടയുള്ള എഐ സംവിധാനങ്ങൾ മൂലമുണ്ടാകുന്ന ദീർഘകാല അപകടങ്ങളെക്കുറിച്ച് പഠിക്കാൻ പ്രത്യേക ടീം രൂപവത്കരിക്കാൻ ഒരുങ്ങുകയാണ് ഓപ്പൺഎഐ.

ഇതുമായി ബന്ധപ്പെട്ട റിസർച്ച് റോളിലേക്ക് ഓപ്പൺഎഐ 445,000 അമേരിക്കൻ ഡോളർ (ഏകദേശം നാല് കോടിയിലധികം രൂപ) വരെയാണ് വാഗ്ദാനം ചെയ്യുന്നതെന്ന് ബിസിനസ് ഇൻസൈഡർ റിപ്പോർട്ടു ചെയ്യുന്നു. ഇപ്പോൾ ഇല്ലാത്തതും എന്നാൽ ഭാവിയിൽ ഉണ്ടാകാൻ സാധ്യതയുള്ളതുമായ പ്രശ്‌നങ്ങളെക്കുറിച്ച് പഠിക്കുക എന്നതാണ് ടീമിന്റെ ദൗത്യം. ഈ റോളിലേക്ക് വരുന്നവർക്ക് വിവേകവും തന്ത്രപരവുമായ കഴിവുകളും ഉണ്ടായിരിക്കേണ്ടത് വളരെ പ്രധാനമാണെന്ന് ഓപ്പൺഎഐ പറയുന്നു.

എഐ സിസ്റ്റങ്ങൾക്ക് മനുഷ്യന്റെ മേൽനോട്ടം അധികം ഇല്ലാതെതന്നെ കൂടുതൽ മികച്ച കൂടുതൽ സിസ്റ്റങ്ങൾ സ്വയം വികസിപ്പിക്കാനും രൂപകൽപ്പന ചെയ്യാനും പരിശീലിപ്പിക്കാനും കഴിയുമെന്ന ആശയം അടിസ്ഥാനപ്പെടുത്തിയാണ് പുതിയ ടീം രൂപവത്കരിക്കുന്നത്. ഈ ടീമിന്റെ ഭാഗമായ ഗവേഷകർ സ്വയംഭരണാധികാരമുള്ള എഐ സിസ്റ്റങ്ങളുമായി ബന്ധപ്പെട്ട അപകട സാധ്യതകൾ മുൻകൂട്ടി കാണുകയും അവ ലഘൂകരിക്കാനുള്ള നടപടികൾ ആസൂത്രണം ചെയ്യുകയും വേണം.

ഭാവി ഭീഷണികളെക്കുറിച്ച് പഠിക്കുക, നൂതന മോഡലുകളിൽ സുരക്ഷാ പരീക്ഷണങ്ങൾ നടത്തുക, പ്രവചനാതീതമായ പെരുമാറ്റം നിരീക്ഷിക്കുന്നതിനുള്ള സംവിധാനങ്ങൾ വികസിപ്പിക്കുക എന്നിവയെല്ലാം ടീമിന്റെ ഉത്തരവാദിത്വങ്ങളിൽ ഉൾപ്പെടുന്നു. നൂതന എഐ സിസ്റ്റങ്ങൾ എങ്ങനെ യുക്തിസഹമായി ചിന്തിക്കുകയും തീരുമാനങ്ങൾ എടുക്കുകയും ചെയ്യുന്നുവെന്ന് ഗവേഷകർക്ക് മനസ്സിലാക്കാൻ സഹായിക്കുന്ന ടൂളുകൾ വികസിപ്പിക്കേണ്ടതും ഈ ടീമാണ്. ഓപ്പൺഎഐയിലെ ഓട്ടോമേഷൻ നടപടികൾ കമ്പനിയിലെ ജോലികളിൽ എന്തെല്ലാം മാറ്റംവരുത്തും എന്നതും ഈ ടീം ട്രാക്ക് ചെയ്യേണ്ടിവരും.

എഐ സംവിധാനങ്ങൾ സ്വയം മെച്ചപ്പെടുന്നതിനുള്ള സാധ്യത നിർമിതബുദ്ധി കമ്പനികൾ നിരീക്ഷിച്ചുവരുന്ന ഗൗരവമുള്ള വിഷയമായി മാറിയിട്ടുണ്ട്. എഐ സിസ്റ്റങ്ങൾ മനുഷ്യർക്ക് കണ്ടെത്താൻ കഴിയാത്തതിനേക്കാൾ വേഗത്തിൽ സ്വയം മെച്ചപ്പെടുത്താൻ തുടങ്ങുന്ന ഒരു ഘട്ടത്തിന്റെ വാതിൽപ്പടിയിലാണെന്ന് ഗൂഗിൾ ഡീപ്‌മൈൻഡ് സിഇഓ ഡെമിസ് ഹസാബിസ് അടുത്തിടെ അഭിപ്രായപ്പെട്ടിരുന്നു.

Content Highlights: OpenAI is offering a $445,000 salary for a specialized AI safety research position., The role focuses on the risks of recursive self-improvement in AI models., Responsibilities include mitigating speculative future threats and monitoring autonomous AI behavior., The position emphasizes the need for strategic and tasteful reasoning regarding AI development., Experts warn of the approaching singularity as AI capability growth accelerates.