responsabilidade civil e inteligência artificial: quem

https://www.derechoycambiosocial.com/ │ ISSN: 2224-4131 │ D.L.: 2005-5822 338

N.° 64, ABR-JUN 2021

Derecho y Cambio Social

N.° 64, ABR-JUN 2021

Responsabilidade civil e inteligência artificial: quem responde por danos ocasionados por sistemas inteligentes

autônomos? (*)

Civil liability and artificial intelligence: who is responsible for damages caused by autonomous intelligent

systems?

Responsabilidad civil e inteligencia artificial: ¿quién es responsable de los daños causados por los sistemas inteligentes

autónomos?

Douglas Luis Binda Filho1

Margareth Vetis Zaganelli2

Sumário: Introdução. 1. A responsabilidade civil suscitada em casos de erros cometidos pela inteligência artificial. 2. Danos imprevisíveis e bugs: há possibilidade de responsabilizar um sistema autônomo (machina delinquere potest)? 3. Requisitos essenciais para análise da responsabilidade civil em casos de erros cometidos pela inteligência

(*) Recibido: Recibido: 14/07/2020 | Aceptado: 16/12/2020 | Publicación en línea: 01/04/2021.

Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial 4.0 Internacional

1 Graduando em Direito pela Universidade Federal do Espírito Santo (UFES). Integrante do

“Bioethik” - Grupo de Estudos e Pesquisas em Bioética (UFES). Integrante do grupo de pesquisa “Robótica, Inteligência Artificial e Direito: a proposta europeia sobre responsabilidade de robôs”. Integrante do grupo de pesquisa “Direito, tecnologias e inovação” (UFES). [email protected]

2 Doutora em Direito (UFMG). Mestre em Educação (UFES). Estágios Pós-doutorais na Università degli Studi di Milano - Bicocca (UNIMIB) e na Alma Mater Studiorum Università di Bologna (UNIBO). Professora Titular da Universidade Federal do Espírito Santo (UFES). Coordenadora do “Bioethik” - Grupo de Estudos e Pesquisas em Bioética (UFES). Coordenadora do grupo de pesquisa “Robótica, Inteligência Artificial e Direito: a proposta europeia sobre responsabilidade de robôs”. Coordenadora do grupo de pesquisa “Direito, tecnologias e inovação” (UFES). Professora investigadora do Projeto Jean Monnet Module "Emerging 'moral' technologies and the ethical-legal challenges of new subjectivities" do Erasmus Plus European Commission - cofinanciado pela União europeia (School of Law). [email protected]

https://www.derechoycambiosocial.com/

http://creativecommons.org/licenses/by-nc/4.0/


mailto:[email protected]

mailto:[email protected]


Responsabilidade civil e inteligência artificial: quem responde por danos ocasionados por sistemas inteligentes autônomos?


N.° 64, ABR-JUN 2021

artificial. 4. Excludentes de responsabilidade civil em casos relacionados à inteligência artificial. 5. Considerações sobre as regulamentações da inteligência artificial a nível nacional – Considerações finais. – Referências.

Resumo: O artigo possui por escopo as indagações relacionadas à responsabilidade civil nos casos em que o dano é ocasionado por sistemas dotados de inteligência artificial. Com esse intento, analisa a possibilidade de responsabilizar o próprio sistema autônomo pelo dano ocorrido, bem como os requisitos imprescindíveis para a análise da responsabilidade civil. Ademais, a seguir, o artigo propõe-se a descrever como funcionam as excludentes de responsabilidade civil em casos de erros cometidos pela inteligência artificial, além de realizar uma consideração acerca dos Projetos de Lei nº 5.051/2019 e nº 5.691/2019, que se encontram em tramitação no Congresso Nacional, e que tratam dos princípios para uso da inteligência autônoma e o estímulo ao desenvolvimento de novas tecnologias no território brasileiro. O estudo pretende ressaltar que as regras de responsabilidade precisam encontrar um equilíbrio entre proteger os cidadãos de possíveis danos oriundos de atividade realizada por um sistema de inteligência artificial e permitir a inovação tecnológica. A metodologia utilizada foi qualitativa, com pesquisa bibliográfica e documental, além de investigação em dados colhidos em organismos internacionais, veiculados na internet.

Palavras-chave: responsabilidade civil, inteligência artificial, danos imprevisíveis, excludentes de responsabilidade civil.

Abstract: The article has as scope the inquiries related to civil liability in cases in which the damage is caused by systems equipped with artificial intelligence. With this intent, the study analyzes the possibility of considering the autonomous system as responsible for the damage, as well as what are the essential requirements for the analysis of civil liability in these cases. Furthermore, the article proposes to understand how the exclusions of civil liability in the described situation work, in addition to making a consideration regarding the Bills of Law No. 5.051/2019 and No. 5.691/2019, in progress in the National Congress, which address the principles for the use of autonomous intelligence, as well as the incentives of the development of new technologies in the Brazilian territory. The study intends to emphasize that the rules of responsibility need to find a balance between protecting citizens from possible damage arising from activities carried out by an artificial intelligence system and allowing technological innovation. The methodology used was qualitative, with bibliographic and documentary research, in addition to research on data collected in international organizations, published on the internet.

Key words: civil liability; artificial intelligence, unforeseeable damages, exclusions of civil liability.

Resumen: El artículo tiene como alcance las indagaciones relacionadas con la responsabilidad civil en los casos en que el daño sea causado por sistemas equipados con inteligencia artificial. Con este propósito, el estudio analiza la posibilidad de considerar al sistema autónomo como responsable del daño, así como cuáles son los requisitos para el análisis de la responsabilidad civil en estos casos. El artículo propone comprender cómo funcionan las exclusiones de responsabilidad civil en la situación descrita, además de hacer una consideración respecto a los Proyectos de

Douglas Luis Binda Filho Margareth Vetis Zaganelli


N.° 64, ABR-JUN 2021

Ley No. 5.051 / 2019 y No. 5.691 / 2019, en trámite en el Congreso Nacional, que abordan los principios para el uso de la inteligencia artificial, así como los incentivos del desarrollo de nuevas tecnologías en el territorio brasileño. El estudio pretende enfatizar que las reglas de responsabilidad deben encontrar un equilibrio entre proteger a la ciudadanía de los posibles daños derivados de las actividades realizadas por un sistema de inteligencia artificial y permitir la innovación tecnológica. La metodología utilizada fue cualitativa, con investigación bibliográfica y documental, además de investigación sobre datos recolectados en organismos internacionales, publicados en internet.

Palabras clave: responsabilidad civil, inteligencia artificial, daños imprevisibles, exclusiones de responsabilidad civil.

Introdução

O debate no tocante à inteligência artificial não está apenas restrito aos tempos atuais, já que há muitos anos a fantasia nutre-se das reflexões oriundas das transformações que as novas tecnologias poderiam acarretar às relações sociais. Samuel Butler, em 1872, com seu romance Erewhon, já introduzira essa temática, baseado em um texto anteriormente escrito por ele, Darwin entre as máquinas, que é considerado por muitos o primeiro texto a sugerir a possibilidade das máquinas constituírem um reino natural mais evoluído e subjugarem os humanos (DOS SANTOS, 2014).

Existem, ademais, vários exemplos na literatura, na dramaturgia e no cinema que retratam essa temática. O romance Frankenstein ou o Prometeu Moderno, de Mary Shelley, datado de 1818, trata da história de Victor Frankenstein, um ambicioso cientista que resolve criar um ser humano. Assim que a criatura, denominada Adam, ganha vida, é abandonado e passa, então, a procurar por seu criador, a fim de buscar respostas para a rejeição (SHELLEY, 1997). Na dramaturgia, há a peça de Karel Capek, R.U.R – Rossumovi Univerzální Roboti, de grande importância por inaugurar o termo “robô”, derivado da arcaica palavra checa "robota" (labuta) que descreve o trabalho obrigatório do servo (HORÁKOVÁ; KELEMEN, 2009). No cinema, o filme 2001: Uma Odisseia no Espaço (Stanley Kubrick, 1968) igualmente trata da aplicação da inteligência artificial, vez que um dos personagens principais, o supercomputador HAL 9000, embora tido como infalível, comete um erro que coloca em perigo todo um grupo de astronautas.

Não apenas inserida na ficção, a atuação da inteligência artificial é perceptível em inúmeros aspectos da rotina diária dos indivíduos. Estuda-se, por conseguinte, tal repercussão e intenta-se, desse modo, compreender essa relação e suas consequências nos diversos âmbitos do direito, dentre os quais encontra-se contemplada a responsabilidade civil, que se apresenta com o propósito de garantir uma solução para lidar com problemáticas correntemente vinculadas a situações em que há a ocorrência de dano a outrem.



N.° 64, ABR-JUN 2021

Nos casos relacionados ao emprego dos sistemas dotados de inteligência artificial, a discussão a respeito do instituto da responsabilidade civil pode ser bastante complexa, vez que os arranjos das máquinas são muito diversos, muitas vezes ímpares. Há, ademais, o fato de os sujeitos que produzem e/ou manuseiam tais autômatos serem muitos, bem como relacionados a áreas diversas, não apenas a um único ramo do saber. É igualmente parte do questionamento identificar o nível de autonomia do robô, com o intuito de entender adequadamente qual regime de responsabilidade será aplicado. Trata-se, portanto, de um cenário relativamente recente, que urge inúmeras considerações e que tem sido examinado por diversos países, entre eles o Brasil.

Conforme ressaltado pela União Europeia (2020), as regras de responsabilidade civil possuem duplo papel em nossa sociedade: em primeiro lugar, garantem que as vítimas de um dano causado por outras pessoas sejam compensadas e, em segundo lugar, fornecem incentivos econômicos para que a parte responsável evite causar tais danos. As regras de responsabilidade sempre precisam encontrar um equilíbrio entre proteger os cidadãos contra danos e permitir que as empresas inovem.

O presente estudo, por meio de metodologia qualitativa, com base em investigação bibliográfica e documental, concomitante com levantamento de dados em organismos internacionais disponíveis na internet, põe-se a examinar a questão da responsabilidade civil que é provocada em razão de um dano procedente de ato cometido por um sistema inteligente autônomo. Em um primeiro momento, realiza-se uma consideração a respeito do conceito de inteligência artificial, bem como procura-se introduzir as percepções basilares do Parlamento Europeu no tocante à relação entre Direito Civil e robótica. Em seguida, investiga-se se é possível responsabilizar o próprio sistema de inteligência artificial pelo dano ocasionado, bem como quais são os requisitos fundamentais para que se analise a responsabilidade civil na conjuntura aludida. Apura-se, ademais, a possibilidade de haver excludentes de responsabilidade civil nos casos mencionados e a existência de regulamentações, a nível nacional, que versem sobre a temática. Reitera-se, em conclusão, a necessidade de se encontrar equilíbrio entre o amparo das vítimas e o avanço tecnológico.

1. A responsabilidade civil suscitada em casos de erros cometidos pela inteligência artificial

Conforme Nguyen et al. (2019), conceitua-se inteligência artificial como qualquer técnica que vise a permitir que computadores imitem o comportamento humano, incluindo aprendizado de máquina, processamento de linguagem natural, síntese de idiomas, visão computacional, robótica, análise de sensores, otimização e simulação. Nessa conceituação, torna-se importante entender o que seria o Machine Learning, isto é, um subconjunto de técnicas de inteligência artificial que permite que os sistemas de computadores aprendam com a experiência anterior, com base em observações de dados, e aprimorem seu comportamento em uma determinada tarefa. O Deep Learning, por outro lado, permite oportunidades de aprendizagem profundas com o uso de redes neurais e algoritmos genéticos para melhorar e otimizar o uso de instrumentos (TEFFÉ, 2019), dessa forma, máquinas que utilizam



N.° 64, ABR-JUN 2021

esse sistema de aprendizado profundo podem compreender abstrações complexas dos dados através de um processo de aprendizagem hierárquica, como ocorre com o cérebro humano.

Os conceitos anteriormente elencados são imprescindíveis para que se demonstre que quanto maior a autonomia da inteligência artificial, menos ela poderá ser considerada apenas como um instrumento ou uma mera ferramenta. Ao identificar na inteligência artificial a propriedade de autoaprendizagem, supõe-se que o controle humano estaria cada vez menos presente e, consequentemente, indaga-se quem seria responsabilizado por um erro cometido por essa inteligência autônoma.

Em 2017, o Parlamento Europeu aprovou uma Resolução com Recomendações sobre disposições de Direito Civil sobre Robótica, que indicava urgência em regular a elaboração de robôs autônomos, bem como sugeria a formação de uma espécie de personalidade jurídica para os robôs, além de defender que uma possível solução para a complexidade de atribuir responsabilidade pelos prejuízos provocados pelos robôs mais autônomos poderia ser um regime de seguros obrigatórios (UNIÃO EUROPEIA, 2017). Os itens 49-59 da citada Resolução versam sobre a questão da responsabilidade civil propriamente dita, sendo o item 51 incumbido de apelar à comissão “uma proposta para um instrumento legislativo sobre questões jurídicas relacionadas com o desenvolvimento e a utilização da robótica e da IA previsível para os próximos 10 a 15 anos. ”

A citada resolução, nesse sentido, identifica ser necessário que se produza um instrumento normativo novo, que possa disciplinar os casos em que os danos são oriundos da atividade de sistemas autônomos, vez que persiste a tendência em se cogitar a existência de lacuna normativa para o tratamento das questões supracitadas. Não obstante tal inclinação em encarar como lacunoso, entende-se que há fundamento para o exame dos problemas referentes aos danos causados pela inteligência artificial na responsabilidade civil. Como Tepedino e Silva (2019) bem afirmam, os fundamentos para a tutela das vítimas não devem ser buscados em novos diplomas, mas no ordenamento já existente, capaz de garantir um melhor tratamento para a questão.

Na estrutura jurídica pátria, somente pessoas físicas ou jurídicas são consideradas titulares de direitos e podem contrair obrigações. Ainda que os danos acarretados por sistemas autônomos possam dar-se de maneira inesperada, para o direito brasileiro, a inteligência artificial não é compreendida como uma entidade autônoma, assim, não se permite que ela seja responsabilizada civilmente. É necessária, dessa forma, a análise dos regimes de responsabilidade civil existentes para que se compreenda a viabilidade de flexibilidade da doutrina perante os conflitos que coloquem tal situação em questão.

Esse cenário é reconhecido pela doutrina como detentor de uma lacuna na responsabilidade civil. Costumeiramente, o operador ou fabricante da máquina é apontado como responsável pelas consequências de sua intervenção, mas a investigação levantada é justamente a respeito de casos em que não se tem como saber se há uma falha individual em questão. É o que diz a doutrina:

[...] These AI may both function and be used as intended but still cause an injury that neither the consumer nor the manufacturer foresaw—an injury that was not within the



N.° 64, ABR-JUN 2021

product’s original capabilities at the time of purchase. This creates a liability gap3. (SWANSON, 2004, grifo nosso).

Tradicionalmente, a responsabilidade civil fundamenta-se como uma obrigação controvertida por lei no sentido de reparar os possíveis danos causados a outrem. Percebe-se a presença de um dever jurídico originário, cuja violação gera um dever jurídico secundário, que é o de indenizar o prejuízo. Ela pode ser contratual, que envolve um contrato firmado as partes envolvidas, ou extracontratual (ou aquiliana), em que não há um vínculo contratual do agente com a vítima.

A responsabilidade tem por elemento nuclear uma conduta voluntária violadora de um dever jurídico, o que torna, então, possível dividi-la em diferentes espécies, a depender de onde provém esse dever e qual o elemento subjetivo dessa conduta (CAVALIERI FILHO, 2012, p. 15). A análise da responsabilidade civil nos casos em que o agente causador do dano é dotado de inteligência artificial, perpassa a análise de inúmeras considerações, relacionadas aos danos imprevisíveis, à possibilidade de responsabilizar um sistema autônomo (machina delinquere potest) e igualmente aos excludentes de responsabilidade.

2. Danos imprevisíveis e bugs: há possibilidade de responsabilizar um sistema autônomo (machina delinquere potest)?

A Resolução do Parlamento Europeu de 16 de fevereiro de 2017 demonstra em suas considerações introdutórias a preocupação com os possíveis atos imprevisíveis oriundos da inteligência artificial, como verificado no tópico AI: “[...] na medida em que os robôs podem ser dotados de capacidades adaptativas e de aprendizagem que integram um certo grau de imprevisibilidade no seu comportamento, uma vez que aprendem de forma autônoma com a sua experiência própria variável e interagem com o seu ambiente de um modo único e imprevisível” (UNIÃO EUROPEIA, 2017). É uma característica comum em robôs de autoaprendizagem, portanto, a propensão a realizar atos autônomos, o que pode hipoteticamente levar ao cometimento de um dano.

Afirma Matthias (2004) que, no mesmo nível em que a intervenção do criador sobre a máquina diminui, a influência do ambiente operacional aumenta. Fortalece-se, dessa maneira, a capacidade dos sistemas de tomar decisões e de produzir resultados imprevisíveis, tanto pelos programadores quanto pelos usuários. Tal imprevisibilidade ocorre igualmente no estabelecimento do que se crê ser erro no código de um programa que provoca seu mau funcionamento, o bug.

Os atos imprevisíveis realizados por sistemas de inteligência artificial potencializam a dúvida no que concerne à indagação a respeito da possibilidade de responsabilizar um sistema autônomo por um ato imprevisível. Contudo, deve-se ressaltar que os sinais de aceitação dessa ideia ainda são muito fracos, posto que vêm de algumas iniciativas que visam mais ao marketing. Apesar disso, essas

3 Essas IA podem funcionar e ser usadas conforme o planejado, mas ainda causam uma lesão que nem o consumidor nem o fabricante previram - uma lesão que não estava dentro dos recursos originais do produto no momento da compra. Isso cria uma lacuna de responsabilidade. (Tradução nossa, grifo nosso).



N.° 64, ABR-JUN 2021

medidas podem antecipar tendências futuras, são exemplos a decisão da Arábia Saudita de conceder cidadania ao sofisticado andróide Sophia, ou a decisão do Município de Tóquio de reconhecer a residência de um chatbot, Shibuya Mirai, capaz de dialogar, com as competências e habilidades de um menino de sete anos, com todos os seus “concidadãos” (BASILE, 2019). Conclui-se, portanto, que, em território nacional, a possibilidade de se responsabilizar um sistema dotado de inteligência artificial até então não é realidade.

3. Requisitos essenciais para análise da responsabilidade civil em casos de erros cometidos pela inteligência artificial

A responsabilidade civil é decomposta nos elementos conduta – positiva ou negativa –, dano e nexo de causalidade, sendo esse último o liame entre os dois primeiros. Portanto, para que exista o dever de indenizar, deve o dano ser decorrente da atuação do agente. Desde o Código Civil de 1916, entende-se que o dever de indenizar apenas pode ser imputado ao agente cuja conduta for, direta e imediatamente, a causa do dano. Trata-se, dessa maneira, da teoria adotada pelo atual Código Civil, segundo o art. 403, estendido à responsabilidade extracontratual (SCHREIBER, 2007). Segundo Cruz (2005), a teoria que obteve sucesso na tentativa de explicar a concepção de “direto e imediato” foi a da necessariedade da causa, formulada por Dumoulin e Pothier, considerada uma subteoria. Segundo essa, o dever de reparar apenas ocorre quando o dano é efeito imprescindível de determinada causa, dessa forma, ainda que haja vários fatores que contribuem para o dano, nem todos constituem causas. O nexo causal, portanto, nao e interrompido pela distância temporal, mas pelo surgimento de causa distinta. Assim, conclui-se que a causa direta e imediata não é sempre a mais proxima do dano, mas a que necessariamente o ensejou em um juizo de proximidade logica.

Em sequência, tem-se o elemento culpa, que, por muito tempo, foi reputado como pressuposto da responsabilidade civil, contudo, com a aparição de novas teorias, recebeu tratamento diverso pela doutrina e pelo legislador. Gagliano (2015) a apresenta como o que advém da inobservância de um dever de conduta, anteriormente exposto pela ordem jurídica em atenção à paz social.

Assinala Maria Helena Diniz (2007, p. 13) que a culpa não pode ser afastada da ideia da responsabilidade apenas pelo surgimento do risco. Segundo ela, a culpa continua sendo fundamento da responsabilidade, constituindo-se ao seu lado também como fundamento da responsabilidade civil. Haverá obrigação de reparar o dano, de acordo com a autora, independente de culpa, nos casos especificados em lei, ou quando a atividade normalmente desenvolvida pelo autor do dano implicar, por sua natureza, risco para os direitos de outrem.

Em resumo, o regime da responsabilidade civil subjetiva está insculpido no art. 186, Código Civil, que contém uma cláusula geral de responsabilidade por culpa, ao passo que o art. 187 do Código Civil determina uma cláusula geral de ilicitude de natureza objetiva (REINIG; CARNAÚBA, 2016). A legislação brasileira adotou a teoria da responsabilidade objetiva igualmente em relação ao direito do consumidor.



N.° 64, ABR-JUN 2021

Afastando-se, por conseguinte, do direito tradicional, o Codigo da um fundamento objetivo ao dever de indenizar. Nao mais importa se o responsavel legal agiu com culpa (imprudencia, negligencia ou impericia) ao colocar no mercado produto ou serviço defeituoso. E que a responsabilidade civil sem culpa, conquanto de natureza excepcional, se impoe no campo das relaçoes de consumo como unico meio efetivo de se viabilizar na pratica o direito do consumidor (aquele que nao tem como repassar seus prejuizos) ser indenizado quando lesado pela persuasao oculta ou pelos sutis comportamentos de mercado lesivo ao interesse geral (BENJAMIN, 1991).

Com base nessas considerações, compreende-se ser fundamental que se defina, em primeiro lugar, qual será o regime de responsabilidade civil aplicável aos danos oriundos dos atos de sistemas providos de inteligência artificial, isto é, se se enquadram no regime subjetivo ou no objetivo. Aponta-se, a princípio, o regime subjetivo, quando inexistentes os pressupostos para que se enquadre a responsabilidade objetiva. Nesse sentido, torna-se imperioso examinar o comportamento do responsável pelo sistema inteligente que causou o dano, visto que é necessário indagar qual o padrão de referência para aferição da conduta culposa; se importa o grau de intervenção sobre o sistema na análise de responsabilização do usuário; além da questão quanto à necessidade de adoção de critérios distintos da investigação da culpa do usuário e da culpa do desenvolvedor do sistema (TEPEDINO; SILVA, 2019). É igualmente importante que se analise a importância da atuação do usuário e se a sua interferência sobre o sistema pode aumentar sua carga de responsabilidade em relação ao evento danoso. Ademais, conforme já explicitado, ainda que o sistema artificial tenha atuado de forma direta, não é ele quem deve ser responsabilizado.

4. Excludentes de responsabilidade civil em casos relacionados à inteligência artificial

Na eventualidade de enquadrar o regime aplicável como o da responsabilidade subjetiva, é também pertinente analisar a possível aplicação das causas excludentes de ilicitude nessas situações em que os danos são praticados por sistemas inteligentes. Em resumo, as causas de excludentes de ilicitude ocorrem em conjunturas em que, com o ataque a um dos pressupostos da responsabilidade, reputa-se rompido o nexo causal, o que não gera o direito à indenização.

As causas que excluem a responsabilidade civil são estado de necessidade; legítima defesa; exercício regular do direito; estrito cumprimento do dever legal; culpa exclusiva da vítima; fato de terceiro; e caso fortuito e força maior. Nesse sentido, questiona-se, por exemplo, se um sistema dotado de inteligência artificial, ao provocar um acidente em um estado de necessidade, obteria o mesmo enquadramento tradicional dessa causa de excludente de ilicitude.

Nesses casos, apesar das inovações tecnológicas, essas questões continuam retomando à responsabilidade civil habitual, isto é, analisa-se o caso com a visão usual, sem adentrar nas particularidades tecnológicas da questão. Nesse sentido, a aplicação de disciplina já cabível aos condutores humanos ocorre, por exemplo, em relação aos carros autônomos (RUFFOLO, 2017, p. 40-41).



N.° 64, ABR-JUN 2021

5. Considerações sobre as regulamentações que versam sobre a inteligência artificial a nível nacional

Em 2018, a União Europeia instituiu, no tocante às especificações que as novas tecnologias têm de cumprir para estarem ética e juridicamente apropriadas, um grupo de peritos sobre a inteligência artificial, responsável pela formulação das Ethics Guidelines for Trustworthy AI, em abril de 2019. Tais diretrizes são bastante importantes para o desenvolvimento do debate a respeito da inteligência artificial e elas têm como premissa o entendimento de que a inteligência artificial, para ser confiável, deve ser legal, ética e sólida (EUROPEAN COMMISSION, 2019).

Segundo Matsuda, Kudo e Konishi (2009), o governo e o setor privados japoneses realizam grandes investimentos em tecnologias de inteligência artificial. Vários programas de política e financiamento estão sendo implementados pelas autoridades governamentais. Nessas circunstâncias, o governo japonês anunciou uma política geral sobre o uso de inteligência artificial e Internet das coisas, e discussões estão sendo realizadas com foco em certas questões jurídicas importantes.

Os debates jurídicos em torno da inteligência artificial não se restringem apenas ao nível internacional, ainda que a nível nacional não possuam a mesma influência. A título de exemplo, tem-se a aprovação pela Comissão de Ciência e Tecnologia de um requerimento de audiência pública para discutir o tema da inteligência artificial no Brasil. Dessa forma, o Senado analisa dois projetos de lei sobre a questão, ambos apresentados pelo senador Styvenson Valentim, o Projeto de Lei nº 5.051/2019, que dispõe sobre a definição dos princípios para o uso da inteligência artificial no país, e o Projeto de Lei nº 5.691/2019, que institui a Política Nacional de Inteligência Artificial (AGÊNCIA SENADO, 2020).

Os dois projetos de lei supracitados visam à criação de um entendimento inicial a respeito do que seria uma inteligência artificial que respeite os direitos humanos e a dignidade humana. Conforme a justificação colhida do PL nº 5.051/2019, apesar das vantagens que a inteligência artificial pode trazer, há também riscos associados à sua adoção, e, portanto, “não se pode, de modo inconsequente, adotar a inteligência artificial sem uma regulação mínima que traga as garantias necessárias para essa transição” (BRASIL, 2019). Já a justificação do PL nº 5.691/2019 aborda o fato de que a inteligência autônoma pode aumentar a produtividade em até 40%, bem como permite a otimização do tempo por parte das pessoas (BRASIL, 2019).

Nesse sentido, retorna-se à perspectiva já compreendida pela Comissão Europeia a respeito do duplo papel que a regra de responsabilidade civil detém. Elas são importantes por garantirem compensação às vítimas e, por outro lado, possuem função relativa à economia e à produtividade. Destarte, os Projetos de Lei nº 5.051/2019 e nº 5.691/2019, promovem o solo para estabelecer os princípios básicos para o uso adequado de sistemas de inteligência artificial. No entanto, deve-se entender que tais leis devem funcionar de forma a garantir assistência basilar, mas o Direito Civil ainda se demonstra capaz de responder outras questões que eventualmente possam surgir relacionadas aos danos oriundos de sistemas providos de inteligência artificial.



N.° 64, ABR-JUN 2021

Considerações finais

As transformações oriundas da inteligência artificial são inevitáveis e proporcionam mudanças significativas no cotidiano. Não obstante, é igualmente possível que esses sistemas autônomos cometam danos, o que gera uma série de indagações, que estão igualmente presentes em matéria de responsabilidade civil.

O estudo apresentou diversas possibilidades de entendimento dessa questão, bem como concluiu a viabilidade de o próprio ordenamento jurídico avaliar tais conjunturas em que os danos ocasionados são oriundos de um ato realizado por um sistema de inteligência artificial, sem a necessidade de formular paradigmas que possam tratar da matéria de forma assistemática e esparsa.

Apesar disso, o aperfeiçoamento do estudo é indispensável, posto que propicia o aprimoramento do debate e das decisões sobre a matéria, que estão gradualmente mais presentes. Com isso, os novos esforços legislativos que visam a garantir princípios para o uso adequado da inteligência artificial e a estimular o progresso da formação de um ambiente favorável desenvolvimento das novas tecnologias são a comprovação de que as transformações técnico-jurídicas em território nacional, que estão apenas na fase inicial, são imprescindíveis para fundar a base de discussão da questão.

Assinala-se, em conclusão, que deve a dogmática da responsabilidade civil atuar no sentido de conceder às vítimas dos danos mencionados a indenização dos prejuízos gerados, com a solução para suas inquirições e demandas jurídicas. É preciso, contudo, de maneira a propiciar o equilíbrio entre indenização e compensação com economia e produtividade, pensar igualmente na conciliação de tal urgência com a evolução da ciência e da tecnologia, que carece dessas respostas para promover o progresso tecnológico. Apenas através de tal associação equilibrada, será possível garantir que os novos sistemas autônomos evoluam no sentido de proporcionar inovações cada vez mais úteis à humanidade e cada vez menos acompanhadas de questões aparentemente insolúveis ou de difícil desenlace.

Referências

2001: Uma Odisseia no Espaço. Direçao de Stanley Kubrick. Interpretes: Keir Dullea; Gary Lockwood. Video. [S.l.]: Warner, 2001. 1 DVD (148 min), son., color.

AGÊNCIA SENADO. Audiência pública vai discutir o uso da inteligência artificial no Brasil. Senado Notícias, 13 fev. 2020. Disponível em: https://www12.senado.leg.br/noticias/audios/2020/02/audiencia-publica-vai-

discutir-o-uso-da-inteligencia-artificial-no-brasil. Acesso em: 30 abr. 2020.

BASILE, Fabio. Intelligenza artificiale e diritto penale: quattro possibili percorsi di indagine. Diritto Penale e Uomo, Milão, p. 1-33, out., 2019. Disponível em: https://dirittopenaleuomo.org/contributi_dpu/intelligenza-artificiale-e-diritto-

penale-quattro-possibili-percorsi-di-indagine/. Acesso em: 1 mai. 2020.

https://www12.senado.leg.br/noticias/audios/2020/02/audiencia-publica-vai-discutir-o-uso-da-inteligencia-artificial-no-brasil

https://www12.senado.leg.br/noticias/audios/2020/02/audiencia-publica-vai-discutir-o-uso-da-inteligencia-artificial-no-brasil

https://dirittopenaleuomo.org/contributi_dpu/intelligenza-artificiale-e-diritto-penale-quattro-possibili-percorsi-di-indagine/

https://dirittopenaleuomo.org/contributi_dpu/intelligenza-artificiale-e-diritto-penale-quattro-possibili-percorsi-di-indagine/



N.° 64, ABR-JUN 2021

BRASIL. Projeto de Lei nº 5051, de 2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. 2019. Disponível em: https://legis.senado.leg.br/sdleg-

getter/documento?dm=8009064&ts=1582300610026&disposition=inline. Acesso em: 20 abr. 2020.

BRASIL. Projeto de Lei nº 5691, de 2019. Institui a Política Nacional de Inteligência Artificial. 2019. Disponível em: https://legis.senado.leg.br/sdleg-

getter/documento?dm=8031122&ts=1582300641960&disposition=inline. Acesso em: 20 abr. 2020.

BENJAMIN, Antonio Herman de Vasconcellos. Comentarios ao Codigo de Protecao ao Consumidor. Sao Paulo: Saraiva, 1991, p.58.

CAVALIERI FILHO, Sergio. Programa de responsabilidade civil. 10. ed. São Paulo: Atlas, 2012. p. 15.

CRUZ, Gisela Sampaio da. O problema do nexo causal na responsabilidade civil. Rio de Janeiro: Renovar, 2005.

CAPEK, Karel. R.U.R. (Rossum’s Universal Robots). Traduçao de Claudia Novack-Jones. In: KUSSI, Peter (org.) Toward the radical center: a Karel Capek reader. Highland Park, NJ: Catbird Press, 1990.

DlNIZ, Maria Helena. Curso de direito civil brasileiro: Responsabilidade Civil. São Paulo: Saraiva, 2007, v. 7, p. 13.

DOS SANTOS, Bernardo Tavares. Darwin Entre as Máquinas (Samuel Butler), seguida do comentário Três Notas de Ficção Científica Sobre Três Obras. Das Questões, v. 1, n. 1, 2014.

EUROPEAN COMMISSION. Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics. 2020. Disponível em: https://ec.europa.eu/transparency/regdoc/rep/1/2020/EN/COM-

2020-64-F1-EN-MAIN-PART-1.PDF. Acesso em: 01 mai. 2020.

EUROPEAN COMMISSION. Ethics Guidelines for Trustworthy AI. 2019. Disponível em: https://ec.europa.eu/futurium/en/ai-alliance-consultation. Acesso em: 01 mai. 2020.

GAGLIANO, Pablo Stolze. Novo Curso do Direito Civil, volume 3: responsabilidade civil/ Pablo Stolze Gagliano e Rodolfo Pamplona Filho. 13. ed. São Paulo: Saraiva, 2015.

HORÁKOVÁ, Jana; KELEMEN, Josef. Artificial living beings and robots: one root, variety of influences. Artificial Life and Robotics, v.13, n. 01, p.555–560, 2008.

MATSUDA, Akira; KUDO, Ryohei; KONISHI, Takao. Japan. AI, Machine Learning & Big Data. 1. ed. Londres: Global Legal Group, 2019.

MATTHIAS, Andreas. The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics Inf Technol, v.6, p.175–183, 2004.

https://legis.senado.leg.br/sdleg-getter/documento?dm=8009064&ts=1582300610026&disposition=inline




https://ec.europa.eu/transparency/regdoc/rep/1/2020/EN/COM-2020-64-F1-EN-MAIN-PART-1.PDF

https://ec.europa.eu/transparency/regdoc/rep/1/2020/EN/COM-2020-64-F1-EN-MAIN-PART-1.PDF

https://ec.europa.eu/futurium/en/ai-alliance-consultation



N.° 64, ABR-JUN 2021

NGUYEN, Giang et al. Machine Learning and Deep Learning frameworks and libraries for large-scale data mining: a survey. Artificial Intelligence Review, v. 52, n. 01, p.77-124, 2019.

REINIG, Guilherme Henrique Lima; CARNAÚBA, Daniel Amaral. Abuso de direito e responsabilidade por ato ilícito: críticas ao enunciado 37 da 1.ª Jornada de direito civil. Revista de direito civil contemporâneo, v. 7, p. 63-94, 2016.

RUFFOLO, Ugo. Self-driving car, auto driverless e responsabilità. In: RUFFOLO, Ugo (Org.). Intelligenza artificiale e responsabilità. Milano: Giuffrè, 2017.

SCHREIBER, Anderson. Novos paradigmas da responsabilidade civil: da erosao dos filtros da reparacao a diluicao dos danos. Sao Paulo: Atlas, 2007.

SHELLEY, Mary. Frankenstein. Porto Alegre: Coleção L&PM POCKET, 1997.

SWANSON, Greg. Non-Autonomous Artificial Intelligence Programs and Products Liability: How New AI Products Challenge Existing Liability Models and Pose New Financial Burdens. Seattle University Law Review, v. 42, n. 03, p. 1201-1222, 2019.

TEFFÉ, Chiara Spadaccini de. Quem responde pelos danos causados pela IA? Jota, 24 out. 2017. Disponível em: https://bit.ly/2UtGo8J. Acesso em: 30 mai. 2019.

TEPEDINO, Gustavo; SILVA, Rodrigo da Guia. Desafios da inteligência artificial em matéria de responsabilidade civil. Revista Brasileira de Direito Civil – RBDCivil, Belo Horizonte, v. 21, p. 61-86, 2019.

UNIAO EUROPEIA. Resolucao do Parlamento Europeu, 16 de fevereiro de 2017, com recomendacoes a Comissao de Direito Civil sobre Robotica (2015/2103(INL)). 2017. Disponivel em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.html. Acesso em: 24 abr. 2019.

https://bit.ly/2UtGo8J

https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.html

responsabilidade civil e inteligência artificial: quem

Documents