A Solução Ética de Problemas (EPS) é uma estrutura que visa promover o desenvolvimento de inteligência artificial segura e ética. Está dividido em uma etapa de avaliação (realizada por meio de ferramentas de Avaliação de Impacto Algorítmico) e uma etapa de recomendação. Ambos estes os estágios representam etapas distintas em uma estrutura EaaS (Ética como Serviço) centrada no ser humano.

Este projeto visa criar uma biblioteca de modelos de aprendizado de máquina publicados. Esta biblioteca conteria informações sobre esses modelos, suas capacidades e os possíveis riscos (juntamente com preocupações éticas) quanto ao seu desenvolvimento/utilização. O objetivo é mapear os maiores problemas e ameaças que a IA contemporânea representa para a nossa sociedade.

Construímos uma aplicação web para automatizar um experimento de filosofia moral. Este experimento tem como objetivo descobrir como as diretrizes éticas influenciam os desenvolvedores de software tomada de decisão. Também estamos procurando investigar diferentes formas de como podemos “ensinar ética” em campos STEM.

O Teeny-tiny Castle é um repositório de ferramentas educacionais para pesquisa de ética e segurança de IA. É um curso baseado em python sobre como criar e usar ferramentas para abordar certas questões de segurança em IA (por exemplo, interpretabilidade, sustentabilidade, justiça, robustez). Nele, você também pode encontrar um curso introdutório sobre Machine Learning.

Aira é uma série de chatbots realizados por meio de ajuste de instruções e DPO. A série Thi foi desenvolvida para ajudar os pesquisadores a explorar o desafios relacionados ao problema do alinhamento. Todos os modelos e conjuntos de dados desenvolvidos fazem parte da tese de doutorado de Nicholas Kluge, “Normatividade Dinâmica: Condições Necessárias e Suficientes para o Alinhamento de Valores.”

Grandes modelos de linguagem (LLMs) avançaram significativamente o processamento de linguagem natural, mas seu progresso ainda não foi igual entre as línguas. Embora a maioria dos LLMs seja treinada em idiomas de alto recurso, como o inglês, Os modelos multilíngues geralmente apresentam um desempenho inferior aos monolíngues. Além disso, aspectos de sua multilíngue As fundações às vezes restringem os subprodutos que produzem, como demandas computacionais e regimes de licenciamento. Por isso, desenvolvemos o par TeenyTinyLlama: dois modelos compactos para geração de texto em português do Brasil.