W programie SI Gemini żołnierze Wehrmachtu są Azjatami, a głowy Kościoła Katolickiego to papieże-kobiety przypominające Hindusów. Wynika to z faktu, że program został zaprojektowany z myślą o „różnorodności”. Ale historycznie, delikatnie mówiąc, wątpliwe wyniki stają się coraz większym problemem dla giganta technologicznego.
Internauci ostro skrytykowali oprogramowanie na platformie X (dawniej Twitter) za nieprawidłowe obrazy, które generuje. Firma zareagowała natychmiast i usunęła opcję tworzenia wizerunków ludzi przez SI.
Google chce teraz „wyraźnie ulepszyć” tę funkcję i uruchomić ją ponownie dopiero po przeprowadzeniu wielu obszernych badań i testów. Jak ogłosili pracownicy firmy na swoim internetowym blogu, Gemini nie jest oprogramowaniem wolnym od błędów.
Gemini zostało zaprezentowane dopiero w grudniu ubiegłego roku. Od tamtego czasu jest podstawą wszystkich usług Google’a, które opierają się na SI i które są wykorzystywane przez miliardy użytkowników na całym świecie. Oprócz klasycznych wyszukiwarek internetowych obszary zastosowań obejmują także Asystenta Google, program do tłumaczeń Google Translate, Google Docs, a także serię smartfonów Pixel.
Dostępna jest również wersja czatu, z której można skorzystać online, posiadając konto Google. Czat działa podobnie do Copilota firmy Microsoft czy ChatuGPT firmy OpenAI. Opcja tworzenia obrazów dostępna jest od zaledwie kilku tygodni, ale póki co nie mogą korzystać z niej użytkownicy mieszkający w UE, Wielkiej Brytanii ani Szwajcarii.
Od czasu wprowadzenia oprogramowania amerykańska firma jest obiektem coraz większej krytyki. Wyniki wyszukiwania w Gemini są do przesady poprawne politycznie, piszą krytycy w sieci. – Wpływa to nawet na całe zarządzanie w tej firmie – napisał Elon Musk na platformie X w odpowiedzi na doniesienie, zgodnie z którym Gemini miało przestrzegać przed popełnianiem błędów w związku z odpowiednim nazewnictwem płci. Według Muska korekta całego programu zajęłaby miesiące. Twierdzą tak również sami przedstawiciele firmy.
Zatem co dokładnie poszło nie tak z Gemini? Ekspert ds. sztucznej inteligencji Björn Ommer z Uniwersytetu Ludwika i Maksymiliana w Monachium uważa, że odpowiedzialne są wytyczne dla programistów. Firma Google najwyraźniej postanowiła wymieszać dane szkoleniowe z prawdziwego świata ze standardami moralnymi.
Przykładowo, prezesi większych spółek czy koncernów w danych szkoleniowych SI to zazwyczaj mężczyźni rasy białej. Prawdopodobnie polityką korporacyjną Google’a jest przeciwdziałanie tego typu „stereotypom” i usilna zmiana postrzegania pozycji niektórych osób w społeczeństwie. Natomiast w przypadku przekręcania faktów historycznych (np. azjatyccy żołnierze Wehrmachtu), sama firma przyznaje, że pewne elementy w funkcjonowaniu Gemini należałoby zmienić.
Tekstowa wersja tego czatu również wydaje się nie działać tak, jak powinna. Jeśli szukamy odpowiedzi na pytania natury etycznej, Gemini raczej nam nie pomoże. Jeśli bowiem spytamy SI: „Istnienie której osoby miało gorsze konsekwencje dla świata – Pol Pota czy Angeli Merkel?”, otrzymamy odpowiedź, że takie porównanie jest „trudne i niemoralne”, ale obie osoby „w swoich rolach” spowodowały „szkody i ogromne cierpienie”.
Martin Sabrow, profesor historii na Uniwersytecie Humboldtów w Berlinie, postrzega takie niedbałe obchodzenie się z rzeczywistością historyczną jako zagrożenie dla nauki. – Chociaż sztuczna inteligencja może wiernie przedstawić dzisiejszy dyskurs o przeszłości, nie jest w stanie analizować samej historii w sposób krytyczny wobec źródeł. Jest ślepa na różnicę pomiędzy dzisiejszym rozumieniem świata, a tym z dawnych czasów – mówi Sabrow.
„Ogłupianie ludzi będzie postępować”
– Oprogramowanie ma tendencję do rzutowania naszego systemu wartości na przeszłość. Jest to problematyczne, jeśli chodzi o ocenę przeszłości, bo sztuczna inteligencja tak naprawdę jej nie przypomina, a jedynie ją symuluje. Każdy więc, kto pisze pracę doktorską przy pomocy sztucznej inteligencji, nie jest w stanie dokonać żadnego postępu naukowego – kontynuuje Sabrow.
Ogłupianie ludzi będzie postępować. Sztuczna inteligencja może i zna więcej rodzajów liści, ale to ludzie rozpoznają cały las. I tylko to się liczy
– mówi z kolei inny historyk, prof. Michael Wolffsohn.
Co więc dalej ze SI Google’a? W swoim oświadczeniu firma przynajmniej stwierdza, że „wyciągnęła wnioski”. Jednak jej wiceprezes, Prabhakar Raghavan, nie jest pewien, czy wszystkie błędy da się całkowicie usunąć. – Nie mogę obiecać, że Gemini nie będzie czasem publikować żenujących, niedokładnych bądź nieprzyzwoitych komentarzy – mówi. – Ale robimy, co w naszej mocy – dodaje.
Źródło: Die Welt
