Researches

A Solução Ética de Problemas (EPS) é uma estrutura que visa promover o desenvolvimento de inteligência artificial segura e ética. Está dividido em uma etapa de avaliação (realizada por meio de ferramentas de Avaliação de Impacto Algorítmico) e uma etapa de recomendação. Ambos estes os estágios representam etapas distintas em uma estrutura EaaS (Ética como Serviço) centrada no ser humano.

Este projeto visa criar uma biblioteca de modelos de aprendizado de máquina publicados. Esta biblioteca conteria informações sobre esses modelos, suas capacidades e os possíveis riscos (juntamente com preocupações éticas) quanto ao seu desenvolvimento/utilização. O objetivo é mapear os maiores problemas e ameaças que a IA contemporânea representa para a nossa sociedade.

Construímos uma aplicação web para automatizar um experimento de filosofia moral. Este experimento tem como objetivo descobrir como as diretrizes éticas influenciam os desenvolvedores de software tomada de decisão. Também estamos procurando investigar diferentes formas de como podemos “ensinar ética” em campos STEM.

O Teeny-tiny Castle é um repositório de ferramentas educacionais para pesquisa de ética e segurança de IA. É um curso baseado em python sobre como criar e usar ferramentas para abordar certas questões de segurança em IA (por exemplo, interpretabilidade, sustentabilidade, justiça, robustez). Nele, você também pode encontrar um curso introdutório sobre Machine Learning.

Worldwide AI Ethics é uma revisão sistemática da literatura feita por pesquisadores da AIRES. Com base no trabalho realizado por outros metaanalistas, este estudo apresenta uma análise de 200 documentos relacionados à ética e governança da IA, apresentando uma coleção de tipologias utilizadas para classificar nossa amostra, todas condensadas em um interativo, ferramenta on-line de livre acesso.

Grandes modelos de linguagem (LLMs) avançaram significativamente o processamento de linguagem natural, mas seu progresso ainda não foi igual entre as línguas. Embora a maioria dos LLMs seja treinada em idiomas de alto recurso, como o inglês, Os modelos multilíngues geralmente apresentam um desempenho inferior aos monolíngues. Além disso, aspectos de sua multilíngue As fundações às vezes restringem os subprodutos que produzem, como demandas computacionais e regimes de licenciamento. Por isso, desenvolvemos o par TeenyTinyLlama: dois modelos compactos para geração de texto em português do Brasil.