Garantir a equidade e a justeza nos modelos de Machine Learning

A Google publicou um post no blogue oficial de Inteligência Artificial (IA) sobre alguns dos desafios, como estabelecer objetivos equitativos e justos dos modelos de machine learning, o TensorFlow Constrained Optimization para correção de modelos e como tudo isto se articula com os princípios da IA introduzidos pela companhia. Em baixo, alguns dos principais destaques e link para o post original:

Muitas das tecnologias que usam o machine learning estão a ter um impacto positivo, cada vez maior no dia a dia das pessoas: da deteção precoce de doenças à deteção de conteúdos inapropriados. Há no entanto, um receio crescente de que esses modelos aprendidos, e que genericamente satisfazem a exigência apertada de minimizar a magnitude de erro de previsão de um modelo (loss function), podem ter maiores dificuldades para abordar questões sociais mais amplas com equidade (fairness) já que geralmente requerem o envolvimento de múltiplas considerações que concorrem entre si. Mesmo quando estes fatores são levados em linha de conta, estes sistemas podem mostrar-se incapazes de satisfazerem as exigências complexas de design: por exemplo, um falso negativo pode ser "pior" do que um falso positivo.

E aqui entra o TensorFlow Constrained Optimization (TFCO) vem tornar fácil a configuração e treino de problemas de machine learning com base em taxas: por exemplo o recall dos diagnósticos de tumores baseados em idade e género, a precisão em membros de um determinado grupo ou a taxa de verdadeiro-positivo dos residentes de um determinado país. Apesar das taxas serem conceptualmente simples, proporcionando ao utilizador minimizar e limitar combinações arbitrárias destas taxas, o TFCO torna fácil formular e resolver vários problemas de interesse da comunidade de fairness, em particular, (as probabilidades equalizadas e paridade de previsão) e da comunidade de machine learning em geral.

A disponibilização do TFCO concretiza os princípios de IA ajudando no desenvolvimento ético e na utilização da IA na investigação e em casos práticos. Colocando a TFCO nas mãos dos programadores pretende-se dotá-los de ferramentas que ajudem a identificar onde os seus modelos podem ser arriscados ou até prejudiciais e na definição de restrições que garantem que os seus modelos atingem os resultados desejados.

A escolha das restrições adequadas depende sempre dos objetivos ou das exigências do problema ou dos utilizadores em causa. Por esta razão, a Google esforçou-se para evitar forçar um utilizador a escolher de entre uma lista de problemas previamente definidos. Em vez disso, procurou maximizar a flexibilidade do mesmo permitindo ao utilizador definir um campo amplo de possíveis problemas pela combinação e manuseio de taxas simples básicas.