IA 360°: Direitos Fundamentais, Regulação e Sociedade - Volume 2

Sumário

Capítulo 1

RESPONSABILIDADE POR ERRO DE IA NA MEDICINA: UMA ANÁLISE DAS OBRIGAÇÕES DO MÉDICO, HOSPITAL E DESENVOLVEDOR

Alisson Goulart Nunes  |  Tatiana de Menezes Mariano

1 Introdução

2 O Novo Paradigma da Medicina Tecnológica

3 Do Cenário Jurídico Brasileiro

3.1 O Código de Defesa do Consumidor e a Responsabilidade Objetiva

3.2 A LGPD e a Proteção de Dados na Saúde

3.3 O Problema Probatório do Nexo Causal e a Inversão do Ônus da Prova

4 Obrigações e Responsabilidade do Médico

4.1 A Responsabilidade Subjetiva como Regra

4.2 O Dever de Supervisão: O Médico como Guardião da Decisão Clínica

4.3 O Dever de Informação e o Consentimento Livre e Esclarecido

5 Obrigações e Responsabilidade do Hospital

6 Obrigações e Responsabilidade do Desenvolvedor

7 Desafios Éticos e Perspectivas

7.1 A Desumanização do Cuidado e o Impacto na Relação Médico-Paciente

7.2 O Viés Algorítmico e a Justiça em Saúde

7.3 A Necessidade de Formação em IA e Biodireito na Educação Médica

8 Considerações Finais

REFERÊNCIAS

Capítulo 2

INCIDENTES DE IA COMO PROBLEMA DE GOVERNANÇA: PREVENÇÃO, DOCUMENTAÇÃO E RESPOSTA

Vinicius Azevedo  |  Guilherme Ochsendorf de Freitas

1 Introdução

2 Incidente de IA para Além da Falha Técnica

3 Prevenção: Estruturação da Governança Antes do Incidente

4 Documentação: Reconstrução dos Fatos e Produção de Evidências

5 Resposta: Conter, Avaliar, Comunicar, Corrigir e Aprender

6 Considerações Finais

REFERÊNCIAS

Capítulo 3

HUMAN INVOLVEMENT IN ARTIFICIAL INTELLIGENCE: PURPOSE, LIMITATION, AND LEGAL MECHANISMS

Helena Deorsola Xavier Leite Marini

1 Purpose Of Human Involvement

2 Limitations Of a Human Decision-maker

3 Legal Mechanisms Established By The EU

3.1 Human intervention under the GDPR: Article 22 and automated decision-making

3.1.1 Article 22 GDPR

3.1.2 Modalities of Human Intervention by Article 22

3.2 Human Oversight Under the AIA: Article 14

3.2.1 Article 14 AIA

3.2.2 Modalities of Human Oversight

3.3 Comparative Analysis of Human Involvement in GDPR and AIA

4 Final Considerations

REFERENCES

Capítulo 4

GOVERNANÇA DE INTELIGÊNCIA ARTIFICIAL E SEGURANÇA DA INFORMAÇÃO: ESTRUTURAS, RISCOS E CONTROLES NO CONTEXTO DA TRANSFORMAÇÃO DIGITAL

Paulo Baldin  |  Felipe Rinaldi de Campos

1 Introdução

2 Governança de inteligência artificial no contexto da transformação digital

3 Riscos da inteligência artificial e sua interface com a segurança da informação

4 Estruturas organizacionais de governança, auditoria e responsabilização

4.1 Governança algorítmica e responsabilidade organizacional

4.2 Transparência, explicabilidade e o problema da caixa-preta

4.3 Auditoria de algoritmos e avaliação contínua

4.4 Comitês multidisciplinares e supervisão humana

5 Frameworks internacionais, regulação e compliance em inteligência artificial

5.1 O AI RMF do NIST e a gestão de riscos ao longo do ciclo de vida

5.2 Governança global da IA e cooperação multilateral

5.3 Desafios regulatórios e compliance em inteligência artificial

5.4 Princípios éticos, supervisão e alinhamento normativo

6 Integração entre governança de IA, gestão de riscos e segurança da informação

6.1 Limites da governança isolada

6.2 Controles de segurança ao longo do ciclo de vida

6.3 Integração entre IA, gestão de riscos, proteção de dados e resposta a incidentes

6.4 Maturidade institucional e governança transversal

7 Conclusão

Referências bibliográficas

Capítulo 5

RECONHECIMENTO BIOMÉTRICO FACIAL EM TEMPO REAL POR SISTEMAS DE IA

Maria Beatriz Previtali  |  Camila de Araújo Guimarães

1 Introdução

2 A regulação do reconhecimento biométrico facial em tempo real na união europeia e seus fundamentos

3 Biometria, Reconhecimento Facial e a Regulamentação da Inteligência Artificial no Brasil com o PL 2338/2023

4 Convergências e diferenças entre o reconhecimento facial em tempo real na Europa e no Brasil

5 Conclusão

Bibliografia e referências

Capítulo 6

VIGILÂNCIA URBANA BASEADA EM IA: RECONHECIMENTO FACIAL, ANÁLISE ALGORÍTMICA DE VÍDEO E IMPLICAÇÕES PARA DIREITOS FUNDAMENTAIS

Ana Paula Gimenes Tessaro  |  Anderson Bittencourt

1 Introdução

2 IA e a Transformação da Vigilância Urbana

2.1 Da câmera ao dado biométrico

2.2 Videomonitoramento automatizado e classificação sem identificação nominal

2.3 Smart cities, integração de bases e escalabilidade da observação

3 Direito à Imagem, Privacidade e Anonimato em Espaço Público

3.1 A transformação da face em dado biométrico

3.2 Privacidade em público e a falácia da ausência de expectativa de proteção

3.3 Dados biométricos, irreversibilidade e risco ampliado

4  Vigilância Algorítmica e Tensões sobre a Liberdade Individual

4.1 Vigilância algorítmica e efeito inibidor sobre a liberdade individual

4.2 Vigilância, governo comportamental e transformação da esfera pública

5 Riscos Estruturais da Decisão Algorítmica: Erro, Viés e Discriminação

5.1 Acurácia diferencial e origens técnicas do viés

5.2 Métricas de desempenho e distribuição do erro em sistemas biométricos

5.3 Erro algorítmico, discriminação e dano institucional

5.4 Perfilamento, supervisão humana e limites da governança algorítmica

6 Governança Jurídica da Vigilância Algorítmica

6.1 Desafios regulatórios da vigilância algorítmica

6.2 O AI Act e o regime europeu de vigilância biométrica

6.3  Necessidade, proporcionalidade e limites de admissibilidade

6.4 Dados biométricos e limites do consentimento em espaços públicos

6.5 Transparência, supervisão e mecanismos de controle institucional

7 Considerações Finais

REFERÊNCIAS

Capítulo 7

RECONHECIMENTO FACIAL EM PLATAFORMAS DE FOTOGRAFIA ESPORTIVA: UM ESTUDO DE CASO COM ANÁLISE COMPARATIVA À LUZ DA LGPD

Anna Vitória Wendt  |  Emerson Wendt  |  João Victor Moraes

1 Problema Investigado

2 Objetivos

3 Método de Análise

3.1 A Teoria dos Sistemas Sociais Aplicada à análise de Plataformas Digitais

3.2 A Investigação Cibernética e a Proteção de Dados em Ambientes Digitais

4 Considerações Finais

REFERÊNCIAS

Capítulo 8

AUTODETERMINAÇÃO INFORMATIVA NO BANCO DOS RÉUS: LIMITES AO PODER PUNITIVO NA ERA DOS ALGORITMOS

Tatiana Lourenço Emmerich de Souza  |  Christiane da Silva Souza  |  Ricardo Calmona Souza

1 Introdução

2 Criminologia Decolonial e Colonialidade Algorítmica

3 Autodeterminação Informativa Como Limite Racional ao Poder Punitivo

4 Considerações Finais

REFERÊNCIAS

Capítulo 9

A SOBERANIA DA AUTOIMAGEM NA ERA DA INTELIGÊNCIA ARTIFICIAL: IDENTIDADE DIGITAL COMO ATIVO ESTRATÉGICO NO CONTEXTO DO CIBERCRIME

Ana Paula Gimenes Tessaro  |  Camila Camarão Sanches  |  Henrique Alves Moreno

1 Introdução

2 Objetos de Identidade Digital: Materialização, Vulnerabilidade e Exploração Adversarial

2.1 Identidade digital como infraestrutura de confiança

2.2 Objetos de identidade digital e a reconfiguração da confiabilidade

2.3 Exploração dos objetos de identidade no cibercrime

2.4 Evidência digital sob incerteza: implicações para investigação e perícia

3 Soberania da Autoimagem: Enquadramento Analítico para a Identidade Representacional

4 Implicações da Soberania da Autoimagem para a Arquitetura de Cibersegurança

4.1 Dissociação entre validação e autenticidade: vulnerabilidades sistêmicas

4.2 Reconfiguração dos mecanismos de validação

4.3 Mitigação ao longo do ciclo de vida da representação

4.4 O paradoxo proveniência-privacidade e os desafios institucionais

5 Considerações Finais

REFERÊNCIAS

Capítulo 10

TENSÕES ENTRE PRIVACIDADE E SEGURANÇA NO MONITORAMENTO DA INFÂNCIA POR TECNOLOGIAS DE INTELIGÊNCIA ARTIFICIAL

Felipe Passos Bresciani  |  Helena Dominguez Paes Landim Bianchi

1 Introdução

2 A Privacidade de Crianças e Adolescentes

3 Tecnologias de Monitoramento e os Impacto à Privacidade

4 Conclusão

5 REFERÊNCIAS

Capítulo 11

A INTELIGÊNCIA ARTIFICIAL E OS IMPACTOS NO DIREITO SOCIAL AO TRABALHO: CAMINHOS POSSÍVEIS PARA A PROTEÇÃO DO MERCADO DE TRABALHO

Nathalie Kuczura Nedel  |  Kerlen Roos  |  Maryana Zubiaurre Corrêa

1 Introdução

2 O Direito Social ao Trabalho Enquanto Vetor de Promoção da Dignidade da Pessoa Humana e Condição de Possibilidade para o Exercício de Outros Direitos Fundamentais

3 A Quarta Revolução Industrial: uma Análise a Partir do Cenário Laboral Consolidado a Partir das Implicações Advindas com a Utilização da Inteligência Artificial e da Automação

4 Caminhos Possíveis para Equalizar o Direito Social ao Trabalho e os Avanços Tecnológicos Advindos da Ia e da Automação

5 Considerações Finais

6 REFERÊNCIAS

Capítulo 12

DEEP FAKE PORN: QUANDO O MAU USO DA INTELIGÊNCIA ARTIFICIAL COLIDE COM O DIREITO À IMAGEM

Saulo Bergantini  |  Lucas Brito

1 Fundamentos do Direito à Imagem

2 Deepfake: conceito, utilização e potenciais riscos

3  Deepfake Porn: conceito e ampliação de uso

4 Como o Brasil e o mundo está lidando com o problema

5 Os direitos envolvidos na discussão sobre a remoção de deepfake porn

6 Conclusão

REFERÊNCIAS

Capítulo 13

DIREITO HUMANO PROCESSUAL À MOTIVAÇÃO E A CONSTRUÇÃO DAS DECISÕES POR INTELIGÊNCIA ARTIFICIAL

João Paulo Kulczynski Forster  |  José Eduardo Aidikaitis Previdelli

1 Introdução

2 Direito Humano à Motivação das Decisões

3 Uso de Inteligência Artificial no Processo Decisório

4 A Ferramenta Gaia Minuta no TJRS: Solução Ou Problema?

5 Considerações Finais

REFERÊNCIAS