Pesquisar
Close this search box.

Desenvolvimento responsável da IA com a nova norma ISO/IEC 42001.

Publicado em
interface-3614766_1280
Imagem: Pixabay

O desenvolvimento ético e responsável da Inteligência Artificial (IA) tem permeado as mentes inquietantes dos doutrinadores e pesquisadores sobre a temática, especialmente pela ausência efetiva de regulamentação e práticas para ajudar as organizações a desenvolver e utilizar os sistemas computacionais de IA de forma sustentável.

Em tempos de expectativas e inúmeras especulações sobre os desafios colocados pela IA, como políticas, transparências, explicabilidade, ética, educação, desenvolvimento e uso da “tecnologia”, a Organização Internacional de Normatização (ISO) e a Comissão Eletrotécnica Internacional (IEC) aprovaram a inédita norma internacional ISO/IEC 42001.

A ISO/IEC 42001 publicada em dezembro de 2023, ainda sem versão em português a ser publicada pela Associação Brasileira de Normas Técnicas (ABNT), tem como objetivo disponibilizar diretrizes e orientações para estabelecer, implementar, manter e melhorar um Sistema de Gestão de Inteligência Artificial (SGIA) em organizações públicas e privadas que sejam desenvolvedoras ou usuárias de produtos ou serviços baseados em IA, de maneira a assegurar o desenvolvimento e utilização responsável de sistemas de Inteligência Artificial. A expectativa é de que a norma tenha uma aplicabilidade nas mais diversas áreas da IA, com o objetivo de mensurar e mitigar os riscos e oportunidades na adoção dos sistemas computacionais de Inteligência Artificial.

O descritivo da norma pretende fornecer subsídios e requisitos para uma governança abrangente diante dos desafios ainda em discussão sobre IA, como considerações éticas, transparência, explicabilidade, direitos fundamentais, além de possibilitar o desenvolvimento de modelos equilibrados que paralelamente estejam comprometidos com inovação e com governança.

A relevância da nova e inédita ISO, acompanha da necessidade de requisitos com padrões internacionais, que auxiliem estabelecer, desenvolver e implementar continuamente um SGIA nas organizações públicas e privadas, assegurando o uso responsável da IA, rastreabilidade, acurácia, transparência, confiabilidade e gerenciamento responsável entre as ameaças e vantagens da inovação que a Inteligência Artificial representa para a sociedade.

Os anexos normativos e informativos da ISO/IEC 42001, também abordam os seguintes aspectos: Objetivos referenciais de controle, diretrizes de implementação para controles de IA, potenciais objetivos e fontes de riscos organizacionais relacionados a Inteligência Artificial e o uso de SGIA em áreasou determinados setores.2

A ISO já publicou outras normas relacionadas que podem contribuir com a gestão de IA, como a ISO/IEC 22989:2022, que estabelece a terminologia para a IA e descreve conceitos no campo da IA, a ISO/IEC 23053:2022, que estabelece uma estrutura de IA e aprendizado de máquina (Machine Learning – ML) para descrever um sistema genérico de IA usando tecnologia de ML, e a ISO/IEC 23894:2023, que fornece orientação sobre gestão de riscos relacionados à IA para organizações.3


A norma custa 187 francos suíços, e algumas BigTechs como a Amazon Web Services( AWS), já sinaliza a adoção do novo padrão ISO/IEC 42001 consolidando a tendência de governança em IA e SGIA, transcrito em apontamentos do vice-presidente de dados e aprendizado de máquinas da AWS, Swami Sivasubramanian:

“As normas internacionais são uma ferramenta importante para ajudar as organizações a traduzir os requisitos regulamentares nacionais em mecanismos de conformidade, incluindo práticas de engenharia, que são amplamente interoperáveis a nível global. Normas eficazes ajudam a reduzir a confusão sobre o que é a IA e o que a IA responsável implica, e ajudam a concentrar a indústria na redução de potenciais danos. A AWS está trabalhando em uma comunidade de diversas partes interessadas internacionais para melhorar os padrões emergentes de IA em diversos tópicos, incluindo gerenciamento de riscos, qualidade de dados, parcialidade e transparência.”

Ademais a adoção de SGIA dentro de uma organização, contempla políticas e práticas procedimentais integradas a projetos de Inteligência Artificial. Esses mecanismos são imprescindíveis para uma gestão confiável, que suporte padrões de governança, e incentive de maneira responsável e estruturada a inovação, aduzindo que a implementação da ISO/IEC 42001 nas organizações contribui com a Agenda 2030 da ONU adotada em 2015 por 193 países membros. Diante dos 17 ODS ( Objetivos de Desenvolvimento Sustentável ) que permeiam submetas em diferentes temas, desde aspectos ambientais e sociais, pode-se observar a contribuição e alinhamento da nova ISO, direta ou indiretamente com vários dos Objetivos de Desenvolvimento Sustentável, mas cumpre ressaltar o ODS 9 – Indústria, inovação e infraestrutura resiliente, promover a industrialização inclusiva e sustentável, e fomentar a inovação.


Em suma, aguardemos a aderência à norma no cenários internacional e nacional, em vista que o documento da ISO/IEC 42001 objetiva harmonizar e alinhar alguns temas desafiadores da inovação e implementação de IA nas organizações com qualidade, segurança, privacidade e sustentabilidade.

2 Disponível em https://asmetro.org.br/portalsn/2024/01/03/publicada-a-nova-iso-iec-42001-
sistema-de-gestao-de-inteligencia-artificial/
. Acesso jan. 2024.
3 Disponível em https://the-decoder.com/responsible-ai-now-has-an-iso-standard/ . Acesso em
jan. 2024.

Celeida Laporta é Associada à AB2L, Co – Founder da CS VIEWS Mediação e Arbitragem. Sócia da L2Z1 Law Digital Solutions. Coordenadora do Informativo ADRODR. Doutoranda na PUC/SP TIDD– Tecnologias da Inteligência e Design Digital, Mestre em Direito pela Escola Paulista de Direito EPD Brasil. Bacharelado e Licenciatura Matemática PUC /SP, Analista de Sistemas, Advogada pós graduada em Direito Tributária PUC/SP, Mediadora judicial e extrajudicial credenciada no CNJ, Congresso Direitos Humanos Universidad de Valladolid – Espanha, Summer School Siena – Itália, Curso Theory and Tools of Harvard Negotiation Project – EUA.
Especialização em Mediación pela Universidad Salamanca – Espanha. Especialização em Práticas em Mediação e Arbitragem pela Universidade Portucalense – Portugal. Especialização em Abogacía 5.0: Nuevas Tecnologías y Justicia pela Universidad Salamanca – Espanha 2022.

Autora de livros de tecnologia, artigos e coautora dos livros: O Fenômeno da Desjudicialização: uma nova era de acesso a justiça – Ed. Lumen Juris 2018 e Soluções Extrajudiciais de Controvérsias Empresariais v.4 – Ed. Saraiva 2018. Organizadora e coautora: Mediação de Conflitos na Prática: Estudos de Casos Concretos – Ed. Lumen Juris.2019. Autora do livro ODR – Resolução de conflitos online – Ed. Quartier Latin.2021. Organizadora e coautora: A Consensualidade aplicada às relações laborais – Ed. Lumen Juris 2022. Organizadora e coautora Direito e Inteligência Artificial Fundamento. Ed. Lumen Juris 2022.
[email protected]

COMPARTILHAR
VEJA TAMBÉM
Imagem: Pixabay

Evolução da criatividade - da teoria para a prática

artigo obs

Ausência da parte Autora e do Preposto nas Audiências Judiciais Cíveis e Juizados Especiais. Quais as diferenças e quais as consequências?

Imagem: Pixabay

Advogados contra a Tecnologia: as máquinas irão substituir os advogados?

laptop-5673901_1280

DJe ou Painel de Intimações? Como acompanhar as intimações e não perder prazos!

Blockchain e Direito Desvendando os Desafios da Tokenização, por Isabela Santos.

 Blockchain e Direito: Desvendando os Desafios da Tokenização

laptop-2558400_1280

Empreender na mediação: inovação e oportunidades em comemoração a semana global do empreendedorismo  lei nº 14.135/2021

opportunity-7958383_1280

Você precisa de 5 palavras para tornar seu perfil no LinkedIn mais atrativo

Tokenização da Propriedade Intelectual

Tokenização da propriedade intelectual: a gestão da inovação na blockchain

EMPRESAS ALIADAS E MANTENEDORAS

Receba nossa Newsletter

Nossas novidades direto em sua caixa de entrada.