Garantir que todo o pessoal possui conhecimentos suficientes em inteligência artificial
O Artigo 4 do AI Act estabelece a obrigação de assegurar um nível suficiente de literacia em matéria de IA para todas as pessoas que lidem com o funcionamento e a utilização de sistemas de inteligência artificial.
«Os fornecedores e os utilizadores de sistemas de IA tomam medidas para garantir, na melhor medida possível, um nível suficiente de literacia em matéria de IA do seu pessoal e de outras pessoas que lidem com o funcionamento e a utilização de sistemas de IA em seu nome, tendo em conta os seus conhecimentos técnicos, a sua experiência, o seu ensino e a sua formação, bem como o contexto em que os sistemas de IA devem ser utilizados, e tendo em consideração as pessoas ou os grupos de pessoas em relação aos quais os sistemas de IA devem ser utilizados.»
O nível de literacia exigido não é uniforme. Deve ser avaliado e adaptado em função de cinco fatores determinantes previstos no próprio artigo:
O nível de literacia deve ser proporcional aos conhecimentos técnicos pré-existentes de cada pessoa. Um engenheiro de machine learning necessita de formação diferente de um gestor de projeto ou de um operador de atendimento ao cliente. A avaliação inicial das competências é fundamental para calibrar o programa.
O ensino académico, a formação profissional e a experiência prática anterior de cada pessoa devem ser considerados para calibrar o conteúdo e a profundidade da formação em literacia de IA. Profissionais com experiência prévia em tecnologias digitais poderão necessitar de menos formação de base.
A formação deve refletir o contexto específico em que o sistema de IA é utilizado — sector de atividade (saúde, finanças, educação), ambiente operacional, finalidade do sistema e condições em que as decisões são tomadas. Contextos mais sensíveis exigem maior profundidade.
As pessoas ou grupos de pessoas em relação aos quais os sistemas de IA serão utilizados devem ser tidos em consideração. Sistemas que afetam grupos vulneráveis (crianças, idosos, pessoas com deficiência) ou que tomam decisões com impacto significativo exigem maior consciencialização do pessoal.
Embora o Art. 4 se aplique a todos os níveis de risco, a profundidade e extensão da formação devem ser proporcionais ao risco que o sistema de IA representa. Sistemas de alto risco exigem um programa de literacia significativamente mais robusto e detalhado do que sistemas de risco mínimo.
Embora o AI Act não prescreva um currículo específico, o Considerando 20 e as boas práticas internacionais indicam que um programa robusto de literacia em IA deve abranger os seguintes domínios fundamentais:
O pessoal deve compreender o que são os sistemas de IA, como funcionam em termos gerais, quais as suas capacidades reais e, sobretudo, quais as suas limitações. Isto inclui noções básicas sobre machine learning, dados de treino, modelos e processos de inferência, adaptadas ao nível técnico de cada pessoa.
Formação sobre a identificação de enviesamentos (bias) nos dados e nos modelos, reconhecimento de erros e falhas, compreensão das alucinações em IA generativa, e consciencialização sobre as limitações inerentes aos dados de treino e aos algoritmos utilizados. O pessoal deve saber quando não confiar nos resultados de um sistema de IA.
Consciencialização sobre como os sistemas de IA podem afetar direitos individuais: privacidade e proteção de dados pessoais, princípio da não-discriminação, liberdade de expressão, dignidade humana, acesso a serviços essenciais e direito a um recurso efetivo. O pessoal deve compreender as implicações das decisões automatizadas na vida das pessoas.
Conhecimento do enquadramento regulatório aplicável: o AI Act (Regulamento UE 2024/1689), o RGPD (proteção de dados pessoais), a Diretiva NIS2 (cibersegurança), e outra legislação sectorial relevante. O pessoal deve compreender quais as obrigações que se aplicam à sua organização e ao seu papel específico dentro dela.
Formação adaptada ao papel de cada pessoa na cadeia de valor da IA: fornecedor (provider/developer), utilizador (deployer), supervisor humano, responsável pela conformidade, gestor de risco, equipa jurídica, gestão de topo, entre outros. Cada função exige competências e conhecimentos diferenciados sobre os sistemas de IA.
Princípios éticos na utilização de IA, incluindo a responsabilidade humana (human-in-the-loop e human-on-the-loop), a transparência nas decisões automatizadas, a equidade algorítmica, e a importância de manter o controlo humano significativo sobre os sistemas de IA. O pessoal deve estar preparado para questionar e, se necessário, sobrepor-se às recomendações de um sistema de IA.
O pessoal deve saber como reportar problemas, incidentes e violações relacionados com sistemas de IA. Isto inclui os canais de comunicação internos, os procedimentos de escalação para a gestão, as obrigações de reporte a autoridades competentes (como a autoridade nacional de supervisão do mercado), e a proteção de denunciantes (whistleblowing) prevista na legislação europeia.
Como operacionalizar a obrigação de literacia em IA na sua organização de forma eficaz e demonstrável:
O Art. 4 refere-se ao "pessoal e outras pessoas que lidem com o funcionamento e a utilização de sistemas de IA" em nome da organização. Isto abrange um leque amplo de profissionais, incluindo mas não se limitando a:
Embora o AI Act não detalhe requisitos específicos de documentação para o Art. 4, é essencial manter registos que demonstrem o cumprimento da obrigação perante eventuais fiscalizações:
A evolução acelerada da tecnologia de IA e do enquadramento legal exige uma abordagem de formação contínua e adaptativa:
Embora o Art. 4 se aplique a todos os sistemas de IA, a profundidade e extensão do programa de literacia deve ser proporcional ao nível de risco:
Sensibilização geral sobre IA, noções básicas do AI Act e das obrigações aplicáveis, identificação de riscos elementares, procedimentos de reporte internos e boas práticas de utilização responsável.
Formação aprofundada sobre obrigações específicas do AI Act, gestão de riscos, supervisão humana efetiva, avaliação de impacto nos direitos fundamentais, documentação técnica e procedimentos de conformidade detalhados.
Disponibilizamos um template de política de literacia em IA que pode servir como ponto de partida para a sua organização. O documento inclui a estrutura base, objetivos de aprendizagem, público-alvo por perfil funcional, conteúdos programáticos recomendados, mecanismos de avaliação de competências e modelo de registo de formação.
Ver templates disponíveisA obrigação de literacia em IA já está em vigor desde fevereiro de 2025. Avalie a conformidade da sua organização e implemente um programa de formação adequado ao seu contexto.