Google Foto-appen gjør en kolossal og rasistisk feil

Siden lanseringen har Google Photos tiltrukket seg oppmerksomheten til spesialiserte medier og brukere i like deler. Og det ser ut til å ha gitt den definitive løsningen på problemet med smarttelefoner og fotografier for tiden: en sky med ubegrenset plass og uten kostnad Selvfølgelig, med noen begrensninger i betraktning som for øyeblikket ikke innebærer noen visuell forskjell mellom komprimerte bilder og de som ikke er for ikke å overvinne disse barrierene.Alt dette ledsaget av noen veldig interessante funksjoner som automatisk opprettelse av animasjoner eller collager, eller intelligent organisering av bilder. Men det er nettopp i denne siste funksjonen tjenesten har skrudd seg opp på verst tenkelig måte

Og til nå var nesten alt ros for tjenesten, helt til en bruker klaget på sosiale nettverk Twitter for en stor feil : har merket et bilde med to svarte personer (brukeren selv og kjæresten) i kategorien Gorillaer , inni dyr En lykkesom kan ha mange rasistiske konnotasjoner og som har fått noen blemmer både på sosiale nettverk og innenfor Google

Etter den unge mannens klage på Twitter, med direkte omtale av Google for å be om forklaringer i denne forbindelse, tok en av ingeniørene som var ansvarlige for tjenesten ikke lang tid på å svare beklager og aksepterte feilen, og prøvde å ikke gå inn i diskusjoner om hvordan eller hvorfor av saken.

Ifølge Google angrer de på denne hendelsen og jobber allerede med å forbedre merkesystemet til Google Photos Til dags dato analyserer -tjenesten bildene som er lastet opp til denne skyen for å finne ut hva som vises på bildene. En ganske vellykket funksjon til dags dato, i stand til å oppdage skyskrapere, innsjøer, skille mellom dyr, identifisere bilder av mat, bilder av landskap, og en veldig lang etcetera. Det er sant at den fortsatt har feil hvordan man noen ganger kan forveksle hunder med hester, eller ikke identifisere noen elementer som virker klare, overraskende på andre bilder på grunn av deres suksessprosent.Men Jeg hadde aldri forvekslet folk med aper Og enda mindre når spørsmålet om rase og hudfarge er involvert.

Tjenesten trenger tydeligvis fortsatt noen forbedringer, så Google har fjernet taggen Gorillas for å forhindre at dette problemet oppstår igjen. I tillegg hevder de at de forbedrer algoritmen slik at parsing og tagging blir mer nøyaktig Systemet er imidlertid smart, og lærer ved å analysere nye bilder, så det vil bli bedre over tid etter hvert som flere brukere bruker det.

Dette er de vanlige problemene med å la en maskin være ansvarlig, uten resonneringskapasiteten til en person. For øyeblikket ser det ut til at problemet har blitt en stygg anekdote, tar utbedring tiltak umiddelbart og prøver å slappe av tonen angående problemet med rasisme.Selvfølgelig er det ikke det første problemet av denne typen som oppstår. Andre programmer og gjenkjenningsprogramvare har hatt lignende problemer ved ikke å gjenkjenne hudtonen til brukere , eller ved feilidentifisere lyset og belysningen av et fotografi.