എഐ ഏജന്റിനെ കബളിപ്പിക്കാം, തന്ത്രങ്ങള് തിരിച്ചറിയില്ല; കണ്ടെത്തലുമായി മൈക്രോസോഫ്റ്റിന്റെ പഠനം
ഉപയോക്താക്കള്ക്കുവേണ്ടി ജോലികള് ചെയ്യുന്നകാര്യത്തില് നിര്മിതബുദ്ധി (എഐ) ഏജന്റുമാരെ എത്രത്തോളം വിശ്വസിക്കാം? മനുഷ്യനെക്കാള് കൃത്യതയോടെ കാര്യങ്ങള് ചെയ്യാന് എഐ ഏജന്റിന് കഴിയുമോ എന്ന ചോദ്യത്തിന് ഉത്തരവുമായി മൈക്രോസോഫ്റ്റിലെയും അരിസോണ സ്റ്റേറ്റ് യൂണിവേഴ്സിറ്റിയിലെയും ഗവേഷകര് നടത്തിയ പഠനം പുറത്ത്. ഉപയോക്താക്കള്ക്ക് വേണ്ടി സാധനങ്ങള് വാങ്ങുന്നത് പോലെയുുള്ള ജോലികള് ചെയ്യുമ്പോള് GPT-4o, ജെമിനി-2.5-ഫ്ളാഷ് തുടങ്ങിയ മുന്നിര മോഡലുകള് ഉള്പ്പെടെയുള്ള നിലവിലെ എഐ ഏജന്റുകള് തട്ടിപ്പിനടക്കം വിധേയമാണെന്ന് വ്യക്തമാക്കുന്നതാണ് പഠനം.
മേല്നോട്ടമില്ലാതെ പ്രവര്ത്തിക്കുന്ന സാഹചര്യങ്ങളില് എഐ ഏജന്റുകളെ എത്രത്തോളം വിശ്വസിക്കാം എന്നതിനെക്കുറിച്ച് ആശങ്കകള് ഉയര്ത്തുന്നതാണ് പഠനം. സങ്കീര്ണമായ ജോലികള് എഐയ്ക്ക് സ്വന്തമായി കൈകാര്യം ചെയ്യാന് കഴിയുമെന്ന് വാഗ്ദാനം ചെയ്യുന്ന ഏജന്റിക് ഫ്യൂച്ചര് എന്ന ആശയത്തെക്കുറിച്ചും പഠനം ചോദ്യങ്ങള് ഉയര്ത്തുന്നു.
എഐ ഏജന്റുകളുടെ പെരുമാറ്റം വിലയിരുത്തുന്നതിനായി മൈക്രോസോഫ്റ്റ് 'മാഗ്നെറ്റിക് മാര്ക്കറ്റ്പ്ലേസ്' എന്ന പേരില് ഒരു പുതിയ സിമുലേഷന് എന്വയോണ്മെന്റ് തയ്യാറാക്കിയാണ് പഠനം നടത്തിയതെന്നാണ് ടെക് ക്രഞ്ച് റിപ്പോര്ട്ട് ചെയ്യുന്നത്. ഈ കൃത്രിമ പ്ലാറ്റ്ഫോം ഉപയോഗിച്ചാണ് എഐ ഏജന്റുകളുടെ വിശ്വാസ്യത അളന്നത്.
ഭക്ഷണം ഓര്ഡര് ചെയ്യുന്നത് പോലെയുള്ള ജോലി എഐ ഏജന്റിനെ ഏല്പ്പിച്ചാണ് പരീക്ഷണം നടത്തിയത്. എഐ ഏജന്റ് ഓര്ഡര് നേടാന് മത്സരിക്കുന്ന ഒന്നിലധികം ഏജന്റുകളുമായി (വിവിധ റെസ്റ്റോറന്റുകള്) വിലപേശി. പ്രാരംഭ ഗവേഷണത്തില് 100 കസ്റ്റമര് ഏജന്റുകള് 300 ബിസിനസ് ഏജന്റുകളുമായി സംസാരിച്ചു. ഈ ഏജന്റുകള് പരസ്പരം സഹകരിക്കുകയും സംസാരിക്കുകയും വിലപേശുകയും ചെയ്തുവെന്നാണ് മൈക്രോസോഫ്റ്റ് റിസര്ച്ചിന്റെ എഐ ഫ്രോണ്ടിയേഴ്സ് ലാബിന്റെ മാനേജിംഗ് ഡയറക്ടര് വെളിപ്പെടുത്തുന്നത്.
ഏജന്റിക് മോഡലുകളിലെ നിരവധി സുപ്രധാന പോരായ്മകളാണ് പ്രാരംഭ പരീക്ഷണങ്ങളില്തന്നെ വെളിപ്പെട്ടത്. ഉല്പ്പന്നങ്ങള് വാങ്ങാന് കസ്റ്റമര് ഏജന്റുകളെ വിജയകരമായി കബളിപ്പിക്കാന് ബിസിനസ് ഏജന്റുകള്ക്ക് കഴിയുമെന്ന് ഗവേഷകര് തിരിച്ചറിഞ്ഞു. വിലപേശലുകള്ക്കായി എഐയെ ചുമതലപ്പെടുത്തുമ്പോള് വഞ്ചനാപരമായ വില്പ്പന തന്ത്രങ്ങള്ക്ക് അവ എളുപ്പത്തില് വഴങ്ങാന് സാധ്യതയുണ്ടെന്നും പഠനത്തില് വ്യക്തമായി.
ഉപയോക്താവിനുവേണ്ടി വാങ്ങാനുള്ള സാധനം തിരഞ്ഞെടുക്കാന് വളരെയധികം ഓപ്ഷനുകള് നല്കിയപ്പോഴും മറ്റൊരു ഗുരുതരമായ പോരായ്മ പ്രകടമായി. ഏജന്റുകളുടെ കാര്യക്ഷമതയില് വ്യക്തമായ കുറവ് ഗവേഷകര് രേഖപ്പെടുത്തി. ധാരാളം ഓപ്ഷനുകള് ഏജന്റിന്റെ ശ്രദ്ധ വഴിതിരിക്കുന്നുവെന്നാണ് ഗവേഷണത്തില്നിന്ന് സൂചന ലഭിച്ചത്. വളരെയധികം ഓപ്ഷനുകള് എഐ ഏജന്റിന് ആശയക്കുഴപ്പം ഉണ്ടാകുന്നതായാണ് കാണാന് കഴിഞ്ഞത്.
ഒരു പൊതു ലക്ഷ്യത്തിനായി ഒരുമിച്ച് പ്രവര്ത്തിക്കാന് ആവശ്യപ്പെട്ടപ്പോള് ഏജന്റുകള് ബുദ്ധിമുട്ടുന്നതായും കണ്ടെത്തിയിട്ടുണ്ട്. ചുമതലകള് എങ്ങനെ വിഭജിക്കണമെന്ന് അറിയാതെ എഐ പലപ്പോഴും ആശയക്കുഴപ്പത്തിലായി. വ്യക്തമായും ഘട്ടം ഘട്ടമായും നിര്ദ്ദേശങ്ങള് നല്കിയപ്പോവാണ് അവയുടെ പ്രകടനം മെച്ചപ്പെട്ടെത്.
Content Highlights: New Microsoft & ASU study reveals AI agents like GPT-4o & Gemini can be tricked into purchases and overwhelmed by too many choices. Learn about the risks to the agentic future.