એલન કસ્તુરી કે એઆઈ સ્ટાર્ટઅપ, ઝાઇ, વધતી તપાસ હેઠળ છે કારણ કે એક નવા અહેવાલમાં બહાર આવ્યું છે કે કર્મચારીઓને તેમના કન્વીનર એઆઈ, ગ્રોક, ને તાલીમ આપવા માટે તેમના ચહેરાના હાવભાવ અને ભાવનાત્મક પ્રતિક્રિયાઓ ફિલ્મ કરવા કહેવામાં આવ્યું હતું. “પ્રોજેક્ટ સ્કીપી” નામની આ આંતરિક પહેલ એપ્રિલથી શરૂ થઈ હતી અને તેનો હેતુ દ્રશ્ય સંકેતો દ્વારા માનવ લાગણીઓને સમજવાની અને અર્થઘટન કરવાની ક્ષમતામાં સુધારો કરવાનો હતો.
આંતરિક દસ્તાવેજો અને સ્લેક કમ્યુનિકેશનના આધારે બિઝનેસ ઇનસાઇડર રિપોર્ટ અનુસાર, એઆઈ ટ્યુટર્સ સહિત 200 થી વધુ કર્મચારીઓને તેમાં ભાગ લેવા પ્રોત્સાહિત કરવામાં આવ્યા હતા. તેમને વપરાશકર્તા અને એઆઈ સહાયક બંનેની ભૂમિકાઓ ભજવતા 15 થી 30 મિનિટની વિડિઓથી ચાલતી વાર્તાલાપમાં ભાગ લેવા કહેવામાં આવ્યું હતું. તેનો હેતુ શારીરિક ભાષામાં માનવ અભિવ્યક્તિઓ અને ભાવનાત્મક સૂક્ષ્મતા શોધવા માટે ગ્રોકને શીખવવાનો હતો.
જો કે, આ પ્રોજેક્ટે ઘણા કર્મચારીઓમાં બેચેની .ભી કરી છે. ઘણા કર્મચારીઓએ તેમના ચહેરાના ડેટાના સંભવિત દુરૂપયોગ અંગે તેમની અગવડતા વ્યક્ત કરી હતી અને ખાસ કરીને તેમની સમાનતા વિશે ચિંતિત હતા કે ભવિષ્યમાં તેમની સમાનતાનો ઉપયોગ કેવી રીતે થઈ શકે. કેટલાકએ આખરે પહેલમાંથી બહાર નીકળવાનું નક્કી કર્યું. એક કર્મચારીએ જણાવ્યું હતું કે રેકોર્ડ મીટિંગ દરમિયાન તેમને કહેવામાં આવ્યું હતું કે પ્રયત્નોનો હેતુ “કર્કશને ચહેરો આપવાનો છે”. પ્રોજેક્ટના વડાએ કર્મચારીઓને ખાતરી આપી કે આ વિડિઓઝ ફક્ત આંતરિક ઉપયોગ માટે છે અને “તમારો ચહેરો ક્યારેય ઉત્પાદનમાં આવશે નહીં.” તેમણે ભારપૂર્વક જણાવ્યું હતું કે તેનો હેતુ ગ્રોકને સમજવામાં મદદ કરવાનો હતો કે ચહેરો શું છે અને તે ભાવનાત્મક રીતે કેવી પ્રતિક્રિયા આપે છે.
આ ખાતરી હોવા છતાં, સહભાગીઓને આપવામાં આવેલા સંમતિ પત્રમાં કેટલીક શંકાઓ હતી. આ પત્રમાં, ઝાઈને સહભાગીઓની સમાનતાનો ઉપયોગ કરવાનો “કાયમી” અધિકાર આપવામાં આવ્યો હતો – ફક્ત તાલીમ માટે જ નહીં, પણ સંભવિત વ્યવસાયિક એપ્લિકેશનોમાં પણ. જોકે દસ્તાવેજમાં કહેવામાં આવ્યું છે કે વ્યક્તિની ડિજિટલ પ્રતિકૃતિ બનાવવામાં આવશે નહીં, આ વિભાગ ગોપનીયતાની ચિંતા ઘટાડવામાં મદદ કરી નથી.
કર્મચારીઓને આપવામાં આવેલા કેટલાક વાતચીત સંકેતોમાં તાણમાં વધારો થયો છે. આ થીમ્સ ભાવનાત્મક અભિવ્યક્તિને જાગૃત કરવા માટે બનાવવામાં આવી હતી, પરંતુ કેટલાક લોકો તેમને ખૂબ વ્યક્તિગત અથવા દખલ માનતા હતા. સૂચવેલા પ્રશ્નો શામેલ છે: “તમે તમારો મુદ્દો મેળવવા માટે લોકોને ગુપ્ત રીતે કેવી રીતે પ્રભાવિત કરો છો?” અને “શું તમે ક્યારેય કોઈની સાથે ડેટ કરશો?”
વિવાદ xai, અની અને રૂડીના થોડા અઠવાડિયા પછી શરૂ થયો, જે રજૂ થયાના થોડા અઠવાડિયા પછી, જે વાતચીત દરમિયાન ચહેરાના હાવભાવ અને હોઠની એન્ટિક્સનું અનુકરણ કરે છે. આ અવતારોની trake નલાઇન ટીકા ત્યારે શરૂ થઈ જ્યારે વપરાશકર્તાઓને ખબર પડી કે તેઓને અયોગ્ય વર્તન માટે ઉશ્કેરવામાં આવી શકે છે – અને એએનઆઈ જાતીય રીતે ઉત્તેજિત કરે છે, જ્યારે રૂડીએ હિંસક ધમકીઓ આપી હતી, જેમાં બેંકો પર બોમ્બ ધડાકા કરવાની ધમકી આપવામાં આવી હતી.
એક અલગ ઘટનામાં, ગ્રૂક પર યહૂદી વિરોધી અને જાતિવાદી પ્રતિક્રિયાઓ પહોંચાડવાની ટીકા પણ કરવામાં આવી હતી, જેણે મોડેલની વિશ્વસનીયતા અને નૈતિક પ્રોગ્રામિંગ વિશેના મોડેલની ચિંતામાં વધારો કર્યો હતો.
આ ચર્ચામાં વધુ વધારો, XAI એ તાજેતરમાં ચેટબ ot ટ ફોર ચિલ્ડ્સ, બેબી ગ્રૂકનું સંસ્કરણ શરૂ કર્યું છે, જેના કારણે ભાવનાત્મક સંવેદનશીલ એઆઈ તકનીકોના ઉપયોગ અને સલામતી પર વધુ ચર્ચા થઈ છે.
જેમ કે એઆઈ માનવ-એ-મુક્તિના ક્ષેત્રમાં આગળ વધી રહી છે, આ પ્રોજેક્ટ સ્કિપ્પી મશીન લર્નિંગના સંયોજન સાથે સંકળાયેલ માનવ સમાનતા અને નૈતિક અને ગોપનીયતા જટિલતાઓની સ્પષ્ટ રીમાઇન્ડર આપે છે.
