അപകടസാധ്യത തിരിച്ചറിഞ്ഞു; സാറ്റലൈറ്റ് ഇമേജ് AI ടൂൾ 24 മണിക്കൂറിനകം പിൻവലിച്ച് ഗൂഗിൾ

ഗൂഗിൾ എർത്ത് പ്ലാറ്റ്ഫോമിൽ ഒരു ബട്ടൺ ക്ലിക്ക് ചെയ്ത് എഐ നിർമിത ഉപഗ്രഹ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ അനുവദിക്കുന്ന ഒരു പുതിയ ഫീച്ചർ അവതരിപ്പിച്ചതിന് തൊട്ടുപിന്നാലെ അത് പിൻവലിച്ച് കമ്പനി. ഗവേഷകരും ഓപ്പൺ-സോഴ്സ് ഇന്റലിജൻസ് വിദഗ്ധരും ആശങ്ക ഉന്നയിച്ചതോടെയാണ് 24 മണിക്കൂറിനുള്ളിൽ ഈ ഫീച്ചർ ഗൂഗിൾ പിൻവലിച്ചത്.

ജൂലായ് 30-ന് പുറത്തിറക്കിയ ഈ ഫീച്ചർ ഗൂഗിളിന്റെ നാനോ ബനാന 2 ഇമേജ്-ജെനറേഷൻ ടെക്‌നോളജിയുടെ പിൻവലത്തോടെ പ്രവർത്തിക്കുന്നതായിരുന്നു. ഉപയോക്താക്കൾക്ക് ലൊക്കേഷനിലേക്ക് സൂം ചെയ്യാനും ഗൂഗിൾ എർത്ത് ഉപഗ്രഹം, 3D-മാപ്പിങ് ഡാറ്റ എന്നിവയെ അടിസ്ഥാനമാക്കി സെക്കൻഡുകൾക്കുള്ളിൽ ചിത്രങ്ങൾ നിർമ്മിക്കാനും അനുവദിക്കുന്നതായിരുന്നു ഈ ഫീച്ചർ. ഉപയോക്താക്കളുടെ ഭാവനയ്ക്കനുസരിച്ച് പ്രവർത്തിക്കാൻ കഴിയുംവിധം രൂപകൽപ്പന ചെയ്തതാണിതെന്ന് കമ്പനി പറഞ്ഞിരുന്നു.

എന്നാൽ വിശ്വാസ്യതയ്ക്ക് ഉപയോക്താക്കളെപ്പോലെതന്നെ ഗൂഗിളും പ്രാധാന്യം നൽകുന്നുവെന്ന് ഈ ഫീച്ചർ താത്കാലികമായി പിൻവലിക്കാനുള്ള തീരുമാനം പ്രഖ്യാപിച്ചുകൊണ്ട് ഗൂഗിൾ പറഞ്ഞു. ‘ഗൂഗിൾ എർത്തിൽ നിന്ന് ഈ ഫീച്ചർ പിൻവലിക്കുകയാണ്. ജനറേറ്റ് ചെയ്ത ചിത്രങ്ങൾ മറ്റുള്ളവർക്ക് കാണാൻ കഴിയില്ല’ - ഗൂഗിൾ വ്യക്തമാക്കി.

ഓപ്പൺ-സോഴ്സ് ഗവേഷകനായ ഹെൻക് വാൻ എസ്സ് അടക്കമുള്ളവർ ഈ ഫീച്ചറിനെതിരെ മുന്നറിയിപ്പ് നൽകി രംഗത്തെത്തിയിരുന്നു. 'മെക്‌സിക്കൻ അതിർത്തിയിലെ അഭയാർഥികൾ, ഇറാനിലെ ഒരു ആണവ നിലയം, ആംസ്റ്റർഡാമിലെ ഒരു അപകടം, ഗാസയിലെ ബോംബ് ഗർത്തമുള്ള ആശുപത്രി എന്നിവയുടെ ഉപഗ്രഹചിത്രം നിർമിക്കാൻ ശ്രമിച്ചു. ഒന്നും ഗൂഗിൾ നിരസിച്ചില്ല.' - ഹെൻക് വാൻ എസ്സ് X-ൽ എഴുതി.

'ഗൂഗിൾ എർത്ത് അപ്ഡേറ്റ് പൊതുജനങ്ങളെ തെറ്റിദ്ധരിപ്പിക്കാനും ഇന്റർനെറ്റിൽ വേഗത്തിൽ പ്രചരിപ്പിക്കാനും കഴിയുന്ന വിശ്വസനീയമെന്ന് തോന്നിപ്പിക്കുന്ന വ്യാജ ഉപഗ്രഹ ചിത്രങ്ങൾ നിർമ്മിക്കുന്നത് എളുപ്പമാക്കുന്നു. ഇത് ഉപഗ്രഹ ചിത്രങ്ങളിലുള്ള പൊതുജനങ്ങളുടെ വിശ്വാസം നശിപ്പിക്കുകയും പത്രപ്രവർത്തകരുടെയും ഗവേഷകരുടെയും ജോലികൾ കൂടുതൽ ബുദ്ധിമുട്ടുള്ളതാക്കുകയും ചെയ്‌തേക്കാം.' - അമേരിക്കൻ എന്റർപ്രൈസ് ഇൻസ്റ്റിറ്റ്യൂട്ടിലെ ഗവേഷണ - വിശകലന വിദഗ്ധനായ ബ്രാഡി ആഫ്രിക്ക് AFP-വാർത്താ ഏജൻസിയോട് പറഞ്ഞു,

ഇത്തരം പ്രതികരണങ്ങൾ വന്നതിന് പിന്നാലെയാണ് പുതിയ ഫീച്ചർ മണിക്കൂറുകൾക്കകം ഗൂഗിൾ പിൻവലിച്ചത്. ഈ ഫീച്ചർ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ചിത്രങ്ങളിൽ ഡിജിറ്റൽ വാട്ടർമാർക്കുകൾ ഉൾപ്പെടുത്തിയിരുന്നുവെന്ന് ഗൂഗിൾ പറഞ്ഞു. തെറ്റായ വിവരങ്ങൾ പ്രചരിക്കുന്നതിനെ ഗൗരവമായി കാണുന്നുവെന്നും ഗൂഗിൾ പ്രതികരിച്ചിട്ടുണ്ട്.

Content Highlights: Google rolled back the AI image generation feature less than 24 hours after launch., The tool used Nano Banana 2 technology to create imagery based on satellite data., Experts raised concerns over the potential for creating convincing fake imagery of sensitive locations., Google cited policy violations and the need for stronger guardrails as the primary reasons for the pause., All generated images were watermarked with SynthID to help users verify authenticity.