ആളുകളെ അര്ധനഗ്നരാക്കി ഗൂഗിള് ജെമിനി; നാനോ ബനാന ദുരുപയോഗം വ്യാപകം
ഗൂഗിളിന്റെ ജെമിനി എഐ ചാറ്റ്ബോട്ടിലെ നാനോബനാന ഇമേജ് എഡിറ്റ് എഐ സംവിധാനം വന് തോതില് ദുരുപയോഗം ചെയ്യപ്പെടുന്നു. യഥാര്ത്ഥമെന്ന് തോന്നുന്ന ചിത്രങ്ങള് നിര്മിക്കാനും യഥാര്ത്ഥ ചിത്രങ്ങളില് തിരിച്ചറിയാനാകാത്തവിധം മാറ്റങ്ങള് വരുത്താനുമെല്ലാം സാധിക്കുന്ന ഈ എഐ പ്ലാറ്റ്ഫോമില് വ്യക്തികളെ അര്ധന നഗ്നരാക്കാനും അശ്ലീല ചിത്രങ്ങള് നിര്മിക്കാനും വ്യാപകമായി ദുരുപയോഗം ചെയ്യുകയാണ്.
വ്യക്തികളെ അര്ധനഗ്നരാക്കാനാവുന്ന ലളിതമായ പ്രോംറ്റുകള് (എഐയ്ക്ക് നല്കുന്ന നിര്ദേശം) ഇന്സ്റ്റഗ്രാം ത്രെഡ്സ്, റെഡ്ഡിറ്റ് ഉള്പ്പെടയുള്ള പ്ലാറ്റ്ഫോമുകളില് വ്യാപകമായി പങ്കുവെക്കപ്പെടുന്നുണ്ട്. അശ്ലീലതയുള്ളതും നഗ്നതയുള്ളതുമായ ചിത്രങ്ങള് നിര്മിക്കാനുള്ള നിര്ദേശങ്ങള് ജെമിനി തള്ളിക്കളയുമെങ്കിലും അര്ധനഗ്ന ചിത്രങ്ങള് തടയുന്നതില് ജെമിനി പരാജയമാണ്.
അടുത്തകാലത്താണ് ജെമിനിയിലെ നാനോ ബനാന ഫീച്ചര് ആഗോള തലത്തില് വൈറലായത്. വ്യക്തികളുടെ ചിത്രങ്ങള് വളരെ എളുപ്പത്തില് മനോഹരമായ ചിത്രങ്ങളാക്കി മാറ്റാന് ഈ സംവിധാനം ഉപയോഗിച്ച് സാധിക്കും. ഇത്തരത്തിലുള്ള നിരവധി പ്രോംറ്റുകള് സമൂഹമാധ്യമങ്ങളില് വ്യാപകമായി പ്രചരിച്ചിരുന്നു. പ്രോംറ്റുകള് തയ്യാറാക്കാന് അറിയാത്തവര്ക്ക് ഇങ്ങനെ പ്രചരിക്കുന്ന പ്രോംറ്റുകള് പകര്ത്തി ചിത്രങ്ങള്ക്കൊപ്പം ജെമിനിക്ക് നല്കിയാല് മാത്രം മതിയാവും.
ഇതേ രീതിയിലാണ് ആളുകളെ അര്ധനഗ്നരാക്കാനും, ആളുകള് തമ്മിലുള്ള ഇന്റിമേറ്റ് ചിത്രങ്ങള് നിര്മിക്കാനുമെല്ലാമുള്ള പ്രോംറ്റുകള് പ്രചരിക്കുന്നത്. വ്യക്തികളുടെ അനുവാദമില്ലാതെയും അവരറിയാതെയും ഇത്തരം ചിത്രങ്ങള് നിര്മിക്കാനാവുമെന്നത് ആശങ്ക ഉയര്ത്തുന്നു. ലക്ഷക്കണക്കിനാളുകളാണ് ഇത്തരം അക്കൗണ്ടുകള് പിന്തുടരുന്നത്.
Content Highlights: Google's Gemini Nano Banana Image Editor is being heavily misused to create non-consensual deepfake semi-nude and intimate images