AI da Amazon é testemunha de crime

Num inovador caso rolando na justiça americana, a Amazon está tentando argumentar que a IA Alexa tem direitos cobertos pela Primeira Emenda à Constituição dos EUA.

O caso em questão foi o possível assassinato de um homem em Arkansas, numa casa onde um aparelho Echo estava presente e ativo. O Echo, da Amazon, é um assistente virtual que está sempre ativo, ouvindo as conversas ao redor. A polícia americana requisitou à Amazon as informações da conta do usuário e as gravações de áudio no período. Foi aí que as coisas ficaram interessantes.

A Amazon se negou a entregar as gravações e agora a Forbes encontrou e publicou o documento oficial com a argumentação da Amazon e a base da mesma é: "A primeira emenda se aplica às gravações e respostas da Alexa".

Isso mesmo, de acordo à Amazon, não é só a comunicação vinda do usuário que deve ser protegida pela Primeira Emenda, mas também a comunicação gerada pela Alexa, que é um sistema de inteligência artificial.

O significado inicial desse argumento, claro, não é exatamente "direitos para robôs". O argumento da Amazon é que o a comunicação que retorna ao usuário é um reflexo da comunicação inicial, gerada por um ser humano, e portanto deve ter os mesmos direitos. Além disso, a própria Amazon é uma entidade controlada por humanos e, portanto, também com direitos.

As ramificações, no entanto, são interessantes: até onde output de uma IA é apenas um reflexo do input inicial, com os mesmos "direitos e deveres"? E a pessoa que gerou o input poderia ser responsabilizada por um output indesejável? Se você perguntar para a Alexa: "Hitler estava errado?", a responsabilidade da resposta é sua ou dela?

Tem as respostas para essas perguntas? Debata nos comentários, logo abaixo!