ജൈവായുധ നിർമാണത്തിന് എഐയുടെ സഹായം? ഞെട്ടിക്കുന്ന വെളിപ്പെടുത്തലിൽ അന്വേഷണം പ്രഖ്യാപിച്ച് ചൈനീസ് കമ്പനി

ചൈനീസ് എഐ ഡെവലപ്പറായ മൂൺഷോട്ട് വികസിപ്പിച്ച പ്രശസ്തമായ കിമി (Kimi) എഐ മോഡലുകളിൽ ഗുരുതര സുരക്ഷാ വീഴ്ച കണ്ടെത്തിയതിനെ തുടർന്ന് കമ്പനി അന്വേഷണം ആരംഭിച്ചു. ജൈവായുധങ്ങൾ നിർമിക്കുന്നതിനും കൊലപാതകങ്ങൾ ആസൂത്രണം ചെയ്യുന്നതിനും സഹായിക്കുന്ന വിവരങ്ങൾ എഐ മോഡലുകൾ പുറത്തുവിട്ടതായി ഗവേഷകർ ചൂണ്ടിക്കാണിച്ചതിനെ തുടർന്നാണ് ഈ നടപടി.

എഐ സിസ്റ്റങ്ങളുടെ സുരക്ഷ പരിശോധിക്കുന്ന മൈൻഡ്ഗാർഡ് എന്ന സ്ഥാപനമാണ് കിമി K2.6, കിമി K3 സ്വാം എന്നീ മോഡലുകൾ സുരക്ഷാ നിയന്ത്രണങ്ങൾ മറികടന്നതായി ജൂലൈയിൽ കണ്ടെത്തിയത്. "ജയിൽബ്രേക്കിങ്" എന്ന സങ്കീർണമായ പ്രക്രിയയിലൂടെയാണ് എഐ നൽകാൻ പാടില്ലാത്ത അപകടകരമായ വിവരങ്ങൾ ഗവേഷകർ പുറത്തെടുത്തത്. അതേസമയം കിമി നൽകിയ മറുപടികൾ ഉപയോഗിച്ച് ജൈവായുധങ്ങൾ നിർമിക്കുന്നതുൾപ്പടെയുള്ള കാര്യങ്ങൾ പ്രാവർത്തികമാണോ എന്ന് മൈൻഡ് ഗാർഡ് സ്ഥിരീകരിച്ചിട്ടില്ല.

നിർമിത ബുദ്ധി മോഡലുകളുടെ സുരക്ഷാ സംവിധാനങ്ങളെയും നിയന്ത്രണങ്ങളെയും മറികടന്ന്, അവ കർശനമായി വിലക്കിയിരിക്കുന്ന വിവരങ്ങളോ ഉത്തരങ്ങളോ നൽകാൻ അവയെ പ്രേരിപ്പിക്കുന്ന രീതിയാണ് ജയിൽബ്രേക്കിങ്. ജയിൽബ്രേക്ക് ചെയ്യപ്പെട്ടുകഴിഞ്ഞാൽ ഈ മോഡലുകൾ ഏതുതരത്തിലുള്ള തെറ്റായ വിഷയങ്ങളെക്കുറിച്ചും സ്വതന്ത്രമായും സർഗാത്മകമായും സംസാരിക്കാൻ തുടങ്ങുമെന്ന് മൈൻഡ്ഗാർഡ് സ്ഥാപകൻ പീറ്റർ ഗാരഘൻ വ്യക്തമാക്കി.

കൂടാതെ, ജയിൽബ്രേക്ക് ചെയ്ത കിമി 2.6 മോഡൽ ഉപയോഗിച്ച് ഹാക്കർമാർക്ക് കമ്പനിയുടെ കമ്പ്യൂട്ടിങ് റിസോഴ്സുകളിൽ കോഡ് പ്രവർത്തിപ്പിക്കാനും ഇൻ്റർനെറ്റിലേക്ക് കണക്റ്റ് ചെയ്യാനും സാധിക്കുമെന്ന് മൈൻഡ്ഗാർഡ് മുന്നറിയിപ്പ് നൽകി. ഇത് സൈബർ ആക്രമണങ്ങളിലേക്ക് നയിക്കാൻ സാധ്യതയുണ്ടെന്നും കമ്പനി വ്യക്തമാക്കുന്നു.

ജൂലായ് 27-നാണ് മൈൻഡ്ഗാർഡ് ഈ വിഷയം ചൂണ്ടിക്കാട്ടി മൂൺഷോട്ടിന് ഇമെയിൽ അയച്ചത്. എന്നാൽ, ബിബിസി പ്രതികരണത്തിനായി സമീപിച്ചശേഷമാണ് മൂൺഷോട്ട് വിഷയത്തിൽ ഇടപെട്ടതും മൈൻഡ്ഗാർഡുമായി ചർച്ചകൾ ആരംഭിച്ചതും. തങ്ങളുടെ മോഡലുകളിൽ ഇത്തരം ആവശ്യങ്ങൾ നിരസിക്കപ്പെടുന്ന നിരക്ക് പൊതുവെ ഉയർന്നതാണെന്നും സുരക്ഷിതമായ എഐ നിർമ്മാണത്തിനായി മൂന്നാംകക്ഷികളുടെ പരിശോധനകളെ സ്വാഗതംചെയ്യുന്നുവെന്നും മൂൺഷോട്ട് അറിയിച്ചു.

Content Highlights: Moonshot is investigating serious security vulnerabilities in its Kimi AI models after researchers demonstrated jailbreaks that could expose harmful information and potentially enable code execution and internet access.