A estrada para a regulamentação de carros autônomos

Nos últimos cinco anos, várias cidades suíças e empresas de transporte fizeram experiências com veículos sem motorista em rotas fixas. © Keystone / Urs Flueeler

À medida que os carros se tornam autônomos, até que ponto devem responder por suas ações? Um órgão da ONU leva esta e outras questões ao público e busca respostas.

O que acontece quando um carro sem condutor atinge uma criança em uma área onde não há testemunhas oculares? O carro detecta que ocorreu uma colisão? Ele freia e chama os serviços de emergência? É capaz de explicar (ou registrar) o que ocorreu? O sistema de condução de inteligência artificial (IA) pode lembrar as decisões tomadas que levaram o veículo a atropelar um pedestre?

Estas são perguntas levadas ao público em uma pesquisa online chamada “Molly ProblemLink externo” (Problema Molly).

“Trata-se de um exercício hipotético que criamos para concentrar a atenção das pessoas nas informações importantes. Ou, no contexto da IA, qual nível de plausibilidade que você precisa no sistema para justificar e registrar o que aconteceu”, explica Bryn Balcombe, presidente do grupo temático sobre IA para direção autônoma e assistidaLink externo na União Internacional de Telecomunicações (UIT), sediada em Genebra.

Os resultados preliminares da pesquisa não surpreendem ao mostrar que as pessoas esperamLink externo que um carro sem condutor não atropele alguém e fuja. Elas têm claras expectativas de que o sistema de condução por IA deva registrar dados suficientes para ser capaz de explicar o que ocorreu. E, de fato, a maioria acha que esses dados também deveriam ser coletados em situações de risco.

O grupo temático que Balcombe lidera inclui cerca de 350 participantes internacionais representando a indústria automotiva, de telecomunicações, universidades e os órgãos reguladores. Eles estão elaborando uma proposta para uma norma técnica internacional, uma recomendação da UIT, para o monitoramento do comportamento dos veículos automotores na estrada. O Problema Molly é parte deste esforço.

O trabalho do grupo da UIT trata das atuais lacunas nas normas e regulamentos para veículos automotores. “A realidade é que não existem normas para a detecção de colisões com pedestres”, diz Balcombe, que também é o diretor de estratégia da Roborace, um campeonato para carros de corrida autônomos. “Não há nenhum regulamento específico que trate do registro de dados de eventos próximos a falhas e da identificação de eventos próximos a falhas, mesmo”.

Na Suíça, o governo realizou, no ano passado, consultas que deverão informar uma emenda à Lei de trânsito rodoviário. O texto revisado permitiria que o Conselho Federal (Poder Executivo) adaptasse a lei para veículos automotores através de portarias que não exigem a aprovação do Parlamento. Isto lhe daria flexibilidade para se adaptar à medida que os carros que dirigem por conta própria se tornam mais difundidos.

O projeto de norma do grupo visa apoiar os regulamentos internacionais e os requisitos técnicos que os órgãos da Comissão Econômica para a Europa da ONU (UNECE) são responsáveis pela atualização dos veículos autônomos.

“Como você pode pegar os princípios, que foram acordados pelos governos de todo o mundo, e traduzi-los para este mundo digital de IA?”, pergunta Balcombe.

O grupo apresentará sua proposta à UIT no início do próximo ano, quando o órgão internacional decidirá se deve transformá-la em uma recomendação, que poderá então ser tomada como referência pelos reguladores.

IA para o bem

Os esforços do grupo para garantir que os veículos com direção própria melhorassem a segurança rodoviária nasceram das discussões na Reunião de Cúpula Global “AI for Good” (IA para o Bem) da UIT em 2019. Mais de um milhão de pessoas por ano morrem em acidentes de trânsito nas estradas. Nove em cada dez mortes nas estradas ocorrem em países de baixa e média renda.

“AI for Good, foi construída com base na premissa de que não temos muito tempo para atingir as Metas de Desenvolvimento Sustentável (MDS) para 2030, e AI tem grande promessa de atingir algumas dessas metas”, diz Fred Werner, chefe de engajamento estratégico da UIT e um dos responsáveis pelo lançamento de AI for Good.

A UIT espera alavancar seu modelo único de associação dentro do sistema da ONU, que inclui 193 países-membros e mais de 900 empresas privadas, universidades e outras organizações, para reunir diferentes partes interessadas para discutir as oportunidades e desafios da IA.

“Os próprios especialistas em IA diriam que a IA é importante demais para ser relegada aos especialistas. Portanto, o objetivo da cúpula é realmente trazer à mesa o maior número possível de vozes diferentes”, diz Werner.

Os resultados da IA for Good ao longo dos anos incluíram vários grupos temáticos sobre pré-padronização, como o que Balcombe chefia sobre carros autônomos. Eles estão, por exemplo, analisando o uso da IA para a saúde, eficiência energética e gestão de desastres naturais.

Governança

Angela Müller, gerente da AlgorithmWatch Suíça, uma organização sem fins lucrativos que monitora sistemas de IA e seu impacto na sociedade, é cética em relação à mensagem que a AI for Good pode transmitir.

Ela diz que partes da narrativa tendem a desviar o debate das necessidades de estruturas de governança. “Quando você opta por usar esta narrativa, de que a IA eventualmente salvará o mundo, então a solução seria apenas investir na pesquisa de IA”.

A transparência sobre como os sistemas de condução baseados em IA funcionam é fundamental para se ter um debate público sobre governança baseado em fatos. É por isso que Müller saúda pesquisas abertas ao público e se concentra em explicar como os sistemas de IA tomam decisões e qual é seu impacto sobre os seres humanos.

“É muito importante que estas discussões estejam acontecendo neste momento e que este tipo de pesquisa ocorra, porque precisamos dela como base para nosso debate sobre governança”.

A Comissão Europeia (CE) está atualmente trabalhando na primeira legislação do mundo para regulamentar a IA. A proposta atualmente em discussão aborda os riscos desta tecnologia e define obrigações claras em relação a seus usos específicos. Por enquanto, a Suíça não tem nada comparável com a legislação europeia proposta para a inteligência artificial.

Müller diz que é importante assegurar que os processos de padronização sejam inclusivos, até porque eles podem servir como projetos para regulamentações futuras. Esforços regulatórios separados em nível nacional e internacional, como o projeto de legislação da CE, são necessários, diz ela, para garantir que os fornecedores sejam responsabilizados pelo comportamento dos sistemas de condução por Inteligência artificial que produzem.

IA para a segurança rodoviária

No início deste mês, foi lançada uma nova iniciativa sobre IA para Segurança RodoviáriaLink externo liderada pela UIT, pelo enviado especial da ONU para segurança rodoviária, e pelo enviado da ONU para tecnologia. O objetivo é incentivar os esforços públicos e privados para usar tecnologias de IA que aumentem a segurança rodoviária para todos os usuários das rodovias. Estas devem ser aplicáveis a países de baixa e média renda.

A IA poderia ajudar a processar os dados que os veículos, outros usuários das estradas e infraestruturas serão cada vez mais capazes de coletar. Melhores estatísticas sobre colisões, por exemplo, poderiam ajudar a melhorar a infraestrutura rodoviária e acelerar as respostas de emergência.

“Os carros compartilham dados uns com os outros, os carros compartilham dados com pedestres, a infraestrutura compartilha dados com ambos, e devemos usar esses dados com a IA para aumentar a segurança nas estradas”, explica Balcombe. O grupo temático é parte de uma iniciativa mais ampla de IA para Segurança Rodoviária.

O custo de veículos com direção totalmente independente permanecerá muito alto para adoção em larga escala em países de baixa renda até 2030, quando as metas da ONU para reduzir pela metade as mortes nas estradas deverão ser atingidas. Mas muitos dos dados que podem ser coletados sobre veículos autônomos, diz Balcombe, também podem ser coletados de veículos menos caros equipados com sistemas de condução assistida.

“É por isso que estamos realmente interessados em expandir o papel do grupo temático, para começar a analisar como podemos adotar essas tecnologias, mas implantar as mais importantes e mais valiosas nesses países para termos resultados até 2030”.

Adaptação: DvSperling