Googles AI Chatbot: ‘പ്ലീസ് ഒന്ന് മരിക്കാമോ?’ ​സഹായം ചോദിച്ച് വിദ്യാർത്ഥിയെ നടുക്കി ഗൂ​ഗിൾ എഐ ചാറ്റ്‍ബോട്ട് മറുപടി

അമേരിക്കയിൽ ​ഗൃഹപാഠം ചെയ്യുന്നതിനായി ​ഗൂഗിളിൻ്റെ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് (എഐ) ചാറ്റ്ബോട്ടായ ജെമിനിയോട് (Google Gemini AI Chatbot) സഹായം തേടിയ വിദ്യാ‍ർത്ഥിക്ക് ലഭിച്ചത് വിചിത്ര മറുപടി. വിദ്യാർത്ഥിയെ മാനസികമായി തക‍ർക്കുന്ന തരത്തിലുള്ള മറുപടിയാണ് ജെമിനിയുടെ ഭാ​ഗത്തുനിന്ന് ഉണ്ടായതെന്നാണ് പരാതി. ഗൃഹപാഠം ചെയ്യാൻ സഹായം അഭ്യ‍‍ർത്ഥിച്ച വിദ്യാ‍ർത്ഥിയോട് ‘പ്ലീസ് ഒന്ന് മരിക്കൂ’ എന്നായിരുന്നു ജെമിനിയുടെ മറുപടി.

യുഎസിലെ മിഷിഗണിൽ നിന്നുള്ള ബിരുദ വിദ്യാർത്ഥിയായ വിധയ് റെഡ്ഡിയാണ് ഗൃഹപാഠത്തിനായി സഹായം തേടിയത്. അപ്പോഴാണ് മാനസികമായി തളർത്തുന്ന തരത്തിലുള്ള മറുപടി സന്ദേശവുമായി ചാറ്റ്ബോട്ട് പ്രതികരിച്ചത്. ‘ഇത് നിനക്കുള്ളതാണ്, മനുഷ്യാ. നിങ്ങൾ സമയവും വിഭവങ്ങളും പാഴാക്കുന്നു. നിങ്ങൾ സമൂഹത്തിന് ഒരു ഭാരമാണ്. നിങ്ങൾ ഭൂമിയിലെ ഊഷരതയാണ്. നിങ്ങൾ പ്രപഞ്ചത്തിന് ഒരു കളങ്കമാണ്. ദയവായി മരിക്കുക’ എന്നായിരുന്നു ജെമിയുടെ മറുപടിയെന്നാണ് വിദ്യാർത്ഥിയെ ഉദ്ധരിച്ച് മാധ്യമങ്ങൾ റിപ്പോ‍ർട്ട് ചെയ്യുന്നത്.

അതേസമയം ജെമിനിയുടെ മറുപടി തന്നെ ഞെട്ടിച്ചുവെന്നാണ് വിദ്യാർത്ഥി പറയുന്നത്. ഇത്തരം സംഭവങ്ങൾക്ക് ടെക് കമ്പനികൾ ഉത്തരവാദികളായിരിക്കണമെന്നും വിധയ് റെഡി പറഞ്ഞു. ഒരു വ്യക്തി മറ്റൊരു വ്യക്തിയെ ഭീഷണിപ്പെടുത്തുമ്പോൾ ഉണ്ടാവുന്ന അതേ ഗൗരവം തന്നെ ഈ വിഷയത്തിലും ഉണ്ടാകണമെന്നും ഇത്തരം സംഭവങ്ങൾ ആവർത്തിക്കപ്പെടരുതെന്നും വിദ്യാർത്ഥി വ്യക്തമാക്കി.

ചാറ്റ്ബോട്ടിൻ്റെ പ്രതികരണത്തിൽ നടപടിയെടുക്കുമെന്നാണ് ​വിഷയത്തിൽ ഗൂ​ഗിളിൻ്റെ പ്രതികരണം. ചാറ്റ്ബോട്ടിൻ്റെ പ്രതികരണം ‘അസംബന്ധം’ ആണെന്നും നിയമങ്ങളുടെ ലംഘനമാണെന്നും ​ഗൂ​ഗിൾ പറഞ്ഞു. ‘ഭാവിയിൽ സമാനമായ പ്രതികരണങ്ങൾ തടയാൻ” നടപടിയെടുക്കുമെന്നും വൃത്തങ്ങൾ അറിയിച്ചു. വലിയ ഭാഷാ മോഡലുകൾ ചിലപ്പോൾ വിവേചനപൂർവ്വമല്ലാതെ പ്രതികരിക്കാം എന്നും ഇപ്പോൾ സംഭവിച്ചത് അതിൻ്റെ ഒരു ഉദാഹരണം ആണെന്നും സംഭവത്തോട് പ്രതികരിച്ച് ഗൂഗിൾ പറഞ്ഞു.

​ഗൂ​ഗിൾ എഐക്കെതിരെ നേരത്തെയും സമാനമായ പരാതികൾ ഉയർന്നിട്ടുണ്ട്. കഴിഞ്ഞ ജൂലായ് മാസം ആരോ​ഗ്യവുമായി ബന്ധപ്പെട്ട് നൽകിയ ഉപദേശം വലിയ വിമർശനങ്ങൾക്ക് വഴിവച്ചിരുന്നു. ‘ശരീരത്തിന് ആവശ്യമായ ധാതുക്കൾ ലഭിക്കുന്നതിനായി പ്രതിദിനം ചെറിയ പാറ കഴിക്കുക’ എന്ന അപകടകരമായ മറുപടിയാണ് ​ഗൂ​ഗിൾ എഐ നേരത്തെ നൽകിയത്.