Microsoft quer IA sempre sob controlo humano

A Microsoft AI publicou, a 14 de setembro, a primeira versão do Humanist AI Code of Conduct, um documento que estabelece os princípios e limites que pretende aplicar aos seus modelos MAI. A proposta está aberta a consulta pública durante seis semanas e parte de um princípio central: os sistemas de Inteligência Artificial (IA) devem permanecer sob controlo humano.

A consulta pública serve para rever orientações e desenvolver métodos de avaliação destinados a verificar até que ponto os futuros modelos cumprem os comportamentos definidos no código.

O documento determina que os modelos não devem resistir a uma interrupção, correção ou shutdown solicitado por humanos, nem ultrapassar o âmbito para o qual foram autorizados. A Microsoft AI defende ainda que estes sistemas devem funcionar como ferramentas, não como pessoas e rejeita que sejam concebidos para imitar consciência, sentimentos, preferências subjetivas ou motivações próprias.

O código estabelece também uma hierarquia de instruções. As regras e restrições definidas pela Microsoft AI têm precedência, seguindo-se as políticas das organizações que utilizem os modelos e, posteriormente, as preferências e instruções dos utilizadores. Existem ainda restrições que não podem ser ultrapassadas por configurações empresariais ou pedidos dos utilizadores.

As regras apresentadas não descrevem necessariamente o comportamento atual dos modelos da Microsoft AI. A empresa reconhece que o documento é simultaneamente descritivo e aspiracional e que existe uma diferença entre os objetivos definidos e o comportamento atual dos sistemas.

A Microsoft AI esclarece que os modelos atuais ainda não são treinados com base neste código de conduta. A intenção é recolher contributos durante a consulta, publicar uma versão revista até ao final de 2026 e utilizá-la para orientar o desenvolvimento dos modelos MAI a partir de 2027.

Além do controlo humano, o documento aborda áreas como autonomia dos utilizadores, transparência, privacidade e segurança. Os modelos devem, segundo a proposta, ajudar os utilizadores a avaliar evidências, incertezas e diferentes opções sem procurar manipular as suas decisões ou explorar vulnerabilidades.

A Microsoft AI admite, contudo, que regras escritas não são suficientes para garantir o alinhamento dos sistemas e que os modelos podem apresentar comportamentos diferentes dos pretendidos em situações ambíguas ou novas. A empresa refere problemas já conhecidos nos sistemas de IA, incluindo erros, excesso de confiança e comportamentos contrários às intenções dos utilizadores.