Com manual, projeto visa combater possíveis riscos causados por sistemas inteligentes
Com mais de 100 projetos inscritos, a Rede de Inteligência Artificial Ética e Segura (RAIES), liderado pelo NAVI, Hub de Ciência de Dados e Inteligência Artificial liderado pelo Tecnopuc e pela Wisidea Ventures, e pela AIRES PUCRS, foi um dos 14 selecionados no edital da Fapergs. O projeto RAIES é coordenado pelo professor da Escola de Humanidades Nythamar de Oliveira que explica a ideia e funcionamento da Rede. “Hoje muitas empresas do setor público e privado utilizam Inteligência Artificial (IA), nosso objetivo é apoiar esses desenvolvedores por meio deste projeto que é interdisciplinar. Temos alunos da Escola Politécnica, da Escola de Direito, Escola de Medicina e da Escola de Humanidades, que é onde eu e o Nicholas atuamos com a ética. Esse projeto, além de interdisciplinar, é intergeracional porque temos colegas de diferentes faixas etárias”, explica o pesquisador.
O trabalho busca tornar o Rio Grande do Sul uma referência internacional em pesquisa e aplicação de IA. Assim como qualquer outra ferramenta, a IA também pode ser utilizada incorretamente. Esse uso indevido das inteligências artificiais tem causado danos a quem utiliza as tecnologias e a reputação de empresas, é o que explica Nicholas Kluge, doutorando em Filosofia pela PUCRS e presidente da AIRES. De acordo com o pesquisador, foi no Programa de Pós-Graduação em Filosofia que a AIRES surgiu, por meio da iniciativa do próprio doutorando que é orientado pelo professor Nythamar.
Segundo Nicholas, o projeto RAIES tem como proposta entender e dar atenção às questões éticas, prospecção de riscos e medidas de segurança envolvendo a IA. “Precisamos formalizar a maneira de se operar dentro das organizações e em empresas voltadas ao desenvolvimento de tecnologias e soluções que utilizam esses sistemas. Para combater isso, nossa proposta é investir em códigos de ética, diretrizes e outros instrumentos de governança”, explica Nicholas.
A ideia do projeto é abordar questões de aspecto moral dentro da área de sistemas inteligentes. Essas tecnologias têm ocupado cada vez mais espaço. Com essa expansão, o grupo atenta para alguns riscos que tem se notado cada vez mais. Em publicação realizada pela AIRES PUCRS no ano passado, são levantados três riscos envolvendo esses sistemas:
- Sistemas de reconhecimento facial podem apresentar vieses de classificação racistas;
- Sistemas de Natural Language Processing (NLP) podem apresentar vieses sexistas e misóginos;
- Sistemas de classificação podem discriminar membros da comunidade LGBTQIA+
Esses são três possíveis riscos listados pelo grupo. São essas questões que motivam a AIRES PUCRS desenvolver estudos relacionados à ética dentro dos sistemas de IA. Nicholas conta que, durante o desenvolvimento de pesquisas, foi possível perceber que os debates em relação à IA são principiológicos. Existem documentos e publicações que norteiam a utilização ética de uma IA, mas, ainda assim, Nicholas reforça um dos pontos de dificuldade. “Existe um abismo entre o que deve ser e o que é. Como eu pego a ideia do que deve ser implantado no mundo real?”, questiona o presidente da AIRES.
Com os déficits na lei e a falta de regulamentação em relação ao uso de ferramentas confiáveis para o desenvolvimento da tecnologia para evitar aqueles possíveis riscos, o grupo se mobiliza para adaptar um material que possa ajudar os desenvolvedores a utilizar os melhores recursos no momento de desenvolver uma IA. O material adaptado é um manual de ferramentas práticas para criar bons modelos em IA, desenvolvido por Nicholas em 2021. O manual conta com variadas ferramentas práticas e exemplos de como implementar esses recursos em sistemas inteligentes. A divulgação do edital da Fapergs foi a oportunidade que o grupo enxergou de melhorar o material e submeter o projeto nomeado por RAIES.
O grupo tem o prazo de quatro anos para trabalhar no projeto. Durante esse período, a ideia é desenvolver uma base de ferramentas ética e segura para que os desenvolvedores de IA possam utilizar. O pesquisador Nicholas afirma que o objetivo é estender o projeto para o Brasil. Ele conta que o plano é disponibilizar esse ferramentário e depois oferecer o recurso por meio de alguma aplicação. “Queremos fazer isso como outros governos fazem. No Canadá, na Alemanha e no Reino Unido se disponibiliza ferramentas para que os desenvolvedores possam entrar e ver se as aplicações que estão desenvolvendo concordam com a legislação daquele país”, explica Nicholas. Neste momento, a ideia é desenvolver e testar o projeto no Rio Grande do Sul e, após, oferecer o recurso ao Governo Federal.
De acordo com os realizadores do projeto, a pesquisa acadêmica precisa se conectar com as empresas e usuários desses sistemas. Para isso, Nicholas destaca o papel do NAVI no projeto, é no hub que a AIRES PUCRS fica sediada. Nicholas afirma que o papel do hub é fazer a conexão da Universidade com o mercado. Rodrigo Leal, CEO e cofundador do hub, completa destacando a função do NAVI como um todo. “O papel do Hub e do Tecnopuc é fazer o link da academia com o mercado. Um dos pilares do NAVI é justamente a pesquisa aplicada”, conclui Rodrigo.
Quem participa do projeto
Além da PUCRS, do NAVI e da AIRES PUCRS, o projeto também conta com outras 14 instituições participantes, sendo seis internacionais. O Hospital São Lucas da PUCRS, a Universidade Federal do Rio Grande do Sul (UFRGS), a Universidade de Caxias do Sul (UCS), a Universidade do Vale dos Sinos, (Unisinos), Universidade La Salle, a Universidade Federal de Santa Maria (UFSM), a Universidade Federal de Pelotas (UFPEL) e a IMED Passo Fundo. Outras seis empresas também têm participação no projeto, como o Banco do Estado do Rio Grande do Sul (Banrisul), a NVIDIA, a SIDI, a WISIDEA, a Associação Comercial de Porto Alegre e a BeeTouch.
Um pouco mais sobre os líderes do projeto
A AI Robotics Ethics Society (AIRES) é uma organização sem fins lucrativos fundada por Aaron Hui em 2018. A organização tem como propósito conscientizar sobre a importância da implementação e regulamentação ética da IA. A AIRES está presente na UCLA, na USC, Caltech, Stanford University, Cornell University, Brown University e na PUCRS. A Universidade é a primeira a receber a AIRES internacionalmente. Na PUCRS, a organização conta com 18 membros e fica sediada no NAVI.
