Direitos & Deveres é a nova rubrica semanal resultante de uma parceria entre o jornal Diário dos Açores e a sociedade de advogados José Rodrigues & Associados. Neste espaço, iremos procurar esclarecer dúvidas jurídicas colocadas pelos nossos leitores bem como abordar alguns dos temas mais comuns que entretecem a comunidade jurídica. Se tiver algum tema que queira ver abordado ou alguma questão que queira ver esclarecida, não hesite em enviar-nos um mail para [email protected].
Inteligência artificial: riscos e regras
São cada vez mais os recursos e as utilizações da inteligência artificial. Para uns, trata-se de uma ferramenta poderosa que irá otimizar recursos e alavancar a inovação e o desenvolvimento tecnológico, para outros constitui uma verdadeira caixa de pandora, uma ameaça à coesão social e económica, na medida em que o seu desenvolvimento irá impactar severamente o mercado de trabalho e, até mesmo, as relações sociais e humanas. Mas, entre uma e outra visão, o facto é que a inteligência artificial é uma realidade cada vez mais presente no quotidiano de empresas e cidadãos.
Embora o debate sobre as vantagens e as desvantagens da inteligência artificial seja cada vez mais frequente, a verdade é que no plano legislativo já existem regras.
A primeira lei sobre inteligência artificial foi proposta, em 2021, pela Comissão Europeia. Nela, definiu-se um sistema de classificação de IA baseado no risco, em que os diferentes sistemas são classificados com base no risco que representam para os utilizadores. Ainda que muitos sistemas de inteligência artificial representem, atualmente, um reduzido risco, são necessárias uma avaliação e uma supervisão exigente. Sendo a primeira legislação do género a nível mundial, a UE definiu que constituem um risco inaceitável para os utilizadores todas as aplicações de inteligência artificial que possam implicar uma manipulação cognitiva comportamental de pessoas ou grupos vulneráveis como, por exemplo, crianças. O exemplo mais comum diz respeito aos brinquedos ativados por voz que incentivam comportamentos perigosos nas crianças. Outro risco considerado inaceitável e, por isso, proibido é o uso de aplicações de inteligência artificial que visem classificar pessoas com base inteligência artificial para pontuação social: classificação de pessoas com base no comportamento, estatuto socioeconómico, caraterísticas pessoais. Para além destes, também é considerado risco inaceitável todo o sistema de identificação biométrica em tempo real e à distância, como o reconhecimento facial em espaços públicos, ainda que, neste caso, possam ser permitidas algumas exceções, muito limitadas e em casos considerados graves, para efeitos de aplicação da lei.
Com a classificação de risco elevado e divididos em duas categorias estão os sistemas que afetam os direitos fundamentais e a segurança. No primeiro caso, estão os sistemas que se referem, por exemplo, à gestão de funcionamento de infraestruturas essenciais, educação e formação profissional, gestão de trabalhadores, gestão da migração, do asilo e do controlo das fronteiras, acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos, entre outros. Na segunda categoria, estão os sistemas de IA que são utilizados em produtos abrangidos pela legislação comunitária em matéria de segurança dos produtos, tais como, por exemplo, automóveis, aviação, elevadores, brinquedos, dispositivos médicos, etc. Todos estes sistemas de risco elevado serão continuamente avaliados ao longo do seu ciclo de vida.
As aplicações de IA de utilização mais comum como é o caso, por exemplo, do ChatGPT, embora não seja classificada como risco elevado, tem obrigatoriamente de, para além de respeitar a legislação relativa aos direitos de autor, obedecer a um conjunto de requisitos de transparência. Neste sentido, é forçoso divulgar que o conteúdo foi gerado por Inteligência Artificial e os modelos devem ser concebidos por forma a prevenir que sejam gerados conteúdos ilegais, entre outros requisitos.
A proposta da Comissão Europeia apresentada em 2021 foi um primeiro passo decisivo. Em junho de 2024, a UE aprovou o primeiro Regulamento relativo à Inteligência Artificial cujo conteúdo será aplicável integralmente 24 meses após a sua entrada em vigor. Ainda assim, convém ter presente que algumas das disposições regulamentares já estão em aplicação desde o início de 2025 como, por exemplo, as já referidas relativa à proibição dos sistemas de IA que apresentem riscos inaceitáveis.
Beatriz Rodrigues
Nota: Em caso de dúvidas ou se necessitar de ajuda, consulte uma advogada.