ഗൂഗിളിന്റെ ജെമിനി എഐ ചാറ്റ്‌ബോട്ടിലെ നാനോബനാന ഇമേജ് എഡിറ്റ് എഐ സംവിധാനം വന്‍ തോതില്‍ ദുരുപയോഗം ചെയ്യപ്പെടുന്നു. യഥാര്‍ത്ഥമെന്ന് തോന്നുന്ന ചിത്രങ്ങള്‍ നിര്‍മിക്കാനും യഥാര്‍ത്ഥ ചിത്രങ്ങളില്‍ തിരിച്ചറിയാനാകാത്തവിധം മാറ്റങ്ങള്‍ വരുത്താനുമെല്ലാം സാധിക്കുന്ന ഈ എഐ പ്ലാറ്റ്‌ഫോമില്‍ വ്യക്തികളെ അര്‍ധന നഗ്നരാക്കാനും അശ്ലീല ചിത്രങ്ങള്‍ നിര്‍മിക്കാനും വ്യാപകമായി ദുരുപയോഗം ചെയ്യുകയാണ്.
വ്യക്തികളെ അര്‍ധനഗ്നരാക്കാനാവുന്ന ലളിതമായ പ്രോംറ്റുകള്‍ (എഐയ്ക്ക് നല്‍കുന്ന നിര്‍ദേശം) ഇന്‍സ്റ്റഗ്രാം ത്രെഡ്‌സ്, റെഡ്ഡിറ്റ് ഉള്‍പ്പെടയുള്ള പ്ലാറ്റ്‌ഫോമുകളില്‍ വ്യാപകമായി പങ്കുവെക്കപ്പെടുന്നുണ്ട്. അശ്ലീലതയുള്ളതും നഗ്നതയുള്ളതുമായ ചിത്രങ്ങള്‍ നിര്‍മിക്കാനുള്ള നിര്‍ദേശങ്ങള്‍ ജെമിനി തള്ളിക്കളയുമെങ്കിലും അര്‍ധനഗ്ന ചിത്രങ്ങള്‍ തടയുന്നതില്‍ ജെമിനി പരാജയമാണ്.
അടുത്തകാലത്താണ് ജെമിനിയിലെ നാനോ ബനാന ഫീച്ചര്‍ ആഗോള തലത്തില്‍ വൈറലായത്. വ്യക്തികളുടെ ചിത്രങ്ങള്‍ വളരെ എളുപ്പത്തില്‍ മനോഹരമായ ചിത്രങ്ങളാക്കി മാറ്റാന്‍ ഈ സംവിധാനം ഉപയോഗിച്ച് സാധിക്കും. ഇത്തരത്തിലുള്ള നിരവധി പ്രോംറ്റുകള്‍ സമൂഹമാധ്യമങ്ങളില്‍ വ്യാപകമായി പ്രചരിച്ചിരുന്നു. പ്രോംറ്റുകള്‍ തയ്യാറാക്കാന്‍ അറിയാത്തവര്‍ക്ക് ഇങ്ങനെ പ്രചരിക്കുന്ന പ്രോംറ്റുകള്‍ പകര്‍ത്തി ചിത്രങ്ങള്‍ക്കൊപ്പം ജെമിനിക്ക് നല്‍കിയാല്‍ മാത്രം മതിയാവും.
ഇതേ രീതിയിലാണ് ആളുകളെ അര്‍ധനഗ്നരാക്കാനും, ആളുകള്‍ തമ്മിലുള്ള ഇന്റിമേറ്റ് ചിത്രങ്ങള്‍ നിര്‍മിക്കാനുമെല്ലാമുള്ള പ്രോംറ്റുകള്‍ പ്രചരിക്കുന്നത്. വ്യക്തികളുടെ അനുവാദമില്ലാതെയും അവരറിയാതെയും ഇത്തരം ചിത്രങ്ങള്‍ നിര്‍മിക്കാനാവുമെന്നത് ആശങ്ക ഉയര്‍ത്തുന്നു. ലക്ഷക്കണക്കിനാളുകളാണ് ഇത്തരം അക്കൗണ്ടുകള്‍ പിന്തുടരുന്നത്.
Content Highlights: Google's Gemini Nano Banana Image Editor is being heavily misused to create non-consensual deepfake semi-nude and intimate images
Published: 15 Dec 2025, 09:30 am IST
Related Topics
വാര്‍ത്തകളോടു പ്രതികരിക്കുന്നവര്‍ അശ്ലീലവും അസഭ്യവും നിയമവിരുദ്ധവും അപകീര്‍ത്തികരവും സ്പര്‍ധ വളര്‍ത്തുന്നതുമായ പരാമര്‍ശങ്ങള്‍ ഒഴിവാക്കുക. വ്യക്തിപരമായ അധിക്ഷേപങ്ങള്‍ പാടില്ല. ഇത്തരം അഭിപ്രായങ്ങള്‍ സൈബര്‍ നിയമപ്രകാരം ശിക്ഷാര്‍ഹമാണ്. വായനക്കാരുടെ അഭിപ്രായങ്ങള്‍ വായനക്കാരുടേതു മാത്രമാണ്, മാതൃഭൂമിയുടേതല്ല. ദയവായി മലയാളത്തിലോ ഇംഗ്ലീഷിലോ മാത്രം അഭിപ്രായം എഴുതുക. മംഗ്ലീഷ് ഒഴിവാക്കുക..
Most Commented