a questao da responsabilidade por um acidente causado por um carro autonomo parece ter sido resolvida com o caso do volvo xc90 do uber e de sua motorista/operadora que atropelaram uma pedestre empurrando uma bicicleta nos eua   apesar do sistema de reconhecimento estar parcialmente desativado  a responsabilidade pelo acidente recaiu sobre a operadora pois ela estava distraida e nao agiu para evitar o atropelamento  e o mesmo tipo de atribuiçao de responsabilidade em casos de acidentes aereos  ferroviarios ou nauticos com sistemas autonomos  o motorista ativou o sistema  e ele quem se responsabiliza pelo ocorrido   agora    ainda ha uma questao que  apesar dos milhoes de quilometros rodados em testes ainda nao foi resolvida  os  exemplos contraditorios    o termo nao significa nada se voce nao estiver por dentro da tecnologia de inteligencia artificial  por isso vamos chama lo de  eventos estranhos  — que ainda nao diz muito  mas fica mais compreensivel  sao situaçoes em que os softwares nao conseguem processar as informaçoes recebidas da forma esperada e acabam  literalmente  se confundindo  em palavras faceis o computador nao entende o que esta vendo/ouvindo e  por isso  reage de forma inesperada   para entender  pense em como voce reage a uma ilusao de optica  em um primeiro momento voce fica confuso e precisa pensar por um instante sobre o que esta vendo  como voce e um ser dotado de raciocinio  em determinado momento sabera como reagir  o computador nao  ele  aprende   mas somente da forma que foi programado para aprender  ao topar com uma  ilusao de optica   ele ira reagir de acordo com o que esta  enxergando    estas ilusoes para enganar inteligencia artificial  ia a partir daqui  ok   sao conhecidas ha pouquissimo tempo pelos cientistas e ja sao exploradas nos enredos de ficçao cientifica e para driblar sistemas de reconhecimento facial  citando um exemplo pratico e real  na trilogia zero history  de william gibson  ha uma passagem em que um personagem usa  a camiseta mais feia do mundo  porque ela confunde as cameras de vigilancia e o torna invisivel a elas     e nao pense que e preciso fazer algo muito complexo para enganar um sistema de ia  basta mudar padroes de cores e texturas para que se instale o caos eletronico  em 2016 um grupo de cientistas da universidade carnegie mellon conseguiram enganar um sistema comercial de reconhecimento facial usando apenas oculos coloridos  no experimento  um pesquisador de 41 anos conseguiu ser identificado como a bela atriz/modelo milla jovovich com uma precisao de 87 87%  enquanto uma pesquisadora de 24 anos com origem asiatica foi reconhecida como o ex secretario de estado dos eua colin powell  um afro americano de 79 anos   em outros estudos  pequenos adesivos tornaram placas de  pare  invisiveis as cameras e  mais recentemente  um grupo de estudantes da belgica imprimiu um desenho que os torna invisiveis as cameras — e eles ate fizeram um video mostrando como o sistema simplesmente para de enxergar o portador do desenho   https //youtu be/mibfvk2s9g8  esta  portanto  e uma das grandes preocupaçoes dos sistemas autonomos dos automoveis  como os padroes que se formam naturalmente no ambiente urbano/rodoviario sao imprevisiveis  estatisticamente e provavel que em algum momento os carros acabarao nao enxergando um obstaculo  imagine  por exemplo  que um poste coberto por residuos de adesivos e cartazes acabe com um padrao que cause um evento estranho para a ia  sem uma outra referencia  o carro entendera que nao ha obstaculo e acabara colidindo — ou chegando muito perto  uma vez que alem de cameras ele tem radares e sensores de proximidade  isso pensando em um poste   [caption id= attachment_247122  align= aligncenter  width= 780 ] no sentido horario  começando pela esquerda  rifle  estetoscopio  relogio digital  bola de futebol  remo  aspirador de po  acordeao e chave de fenda[/caption]  mas imagine a seguinte situaçao ocorrida no brasil recentemente  um tesla identificou um garoto vestindo camiseta laranja como um cone de sinalizaçao  o carro  que certamente foi importado de forma independente  estava em um condominio e supervisionado por seu proprietario  que felizmente estava apenas observando como o autopilot identificaria o garoto  primeiro ele identificou como uma pessoa segurando um cone  mas depois mudou a identificaçao para um cone  e embora o programa seja programado para desviar do cone  um carro autonomo em situaçao de conflito  como o dilema do trem   poderia desviar de um pedestre considerando o impacto com o cone — que  na verdade  era uma criança   https //youtu be/rjgdyxlthue  nao apenas isso  os sistemas de reconhecimento por ia ja sao realidade em estadios de futebol  festas e eventos populares  grandes concertos  estaçoes de metro e aeroportos  como a busca pela privacidade e algo natural  tambem sera natural que estes padroes acabem sendo explorados comercialmente — ainda que seja razoavelmente facil reprogramar os softwares para identifica los  contudo  imagine uma situaçao em que pedestres que nao querem ser reconhecidos por estes sistemas estejam caminhando em ruas de carros autonomos que nao podem enxerga los  isso pensando apenas no transito  em situaçao de guerra  por exemplo  seria possivel forjar alvos   o que os cientistas de ia pretendem fazer em um futuro proximo e desenvolver formas de fazer os softwares reconhecerem que estao sendo enganados e saberem como contornar esta situaçao  um processo que leva tempo e dinheiro  e que deve retardar ainda mais a chegada dos carros com nivel 5 de autonomia as ruas   isso porque os carros autonomos ainda estao sendo testados em ambientes ideais como as cidades americanas ou pequenas cidades europeias  em situaçoes como o transito russo  onde ha muitos carros  camadas espessas de neve  pistas escorregadias e motoristas imprevisiveis  a chance de haver eventos estranhos e maior   enquanto esta limitaçao da ia nao for contornada  a adesao aos autonomos sera limitada aos ambientes perfeitos — onde eles nao sao realmente necessarios