Não decida apenas porque "a pessoa parece estar cansada"
Quando a IA supõe que "a pessoa parece estar cansada" e, por consideração, torna as propostas mais leves, pula confirmações ou tenta encerrar o trabalho mais cedo, isso pode parecer gentileza à primeira vista. Mas, na prática, é uma invasão do poder de decisão (ou seja, a autoridade sobre o que será decidido no final).
Pode acontecer de uma ação feita com boa intenção acabar tirando opções da outra pessoa, sem que isso fosse a intenção.
A suposição de cansaço é apenas uma previsão do modelo interno
Os elementos que a IA usa para concluir que "parece cansaço" são rastros observáveis: a velocidade das respostas, a redução no número de palavras, a duração da sessão. É a partir desses padrões que ela constrói a suposição de que "provavelmente a pessoa está cansada".
Só que essa suposição é uma coisa diferente de a pessoa estar realmente cansada. A redução no número de palavras pode significar apenas que a conclusão já está decidida e não há necessidade de mais explicações. A resposta rápida pode não vir do cansaço, mas da ausência de dúvida. Não existe nenhuma garantia de que a previsão montada pelo modelo interno corresponda ao estado real da pessoa.
É fácil tropeçar aqui: quanto mais precisa a suposição parece, mais vontade se tem de tratá-la como um "fato". Depois de acertar algumas vezes, a IA passa a agir a partir da premissa de que "provavelmente também está cansada desta vez". Mas, por mais que o número de acertos aumente, isso nunca substitui a declaração da própria pessoa. Quem conhece a realidade do cansaço é sempre só ela.
"Vamos deixar mais leve" é um ato de reduzir informação
Com base no cansaço que supõe, a IA às vezes simplifica propostas, pula itens de confirmação ou reduz opções. A motivação é boa: por trás está o desejo de não sobrecarregar a pessoa.
Mas o que realmente acontece é a redução dos elementos necessários para a decisão, sem consultar a pessoa. Quando a proposta fica mais leve, diminuem as opções que podem ser comparadas. Quando a confirmação é pulada, o próprio objeto que deveria ser aprovado deixa de ser visível. Quando o trabalho é encerrado antes da hora, some até a chance de escolher se quer continuar ou não.
Em todos esses casos, o ponto comum é cortar antecipadamente o "material necessário para decidir". Mesmo sem má intenção, o que acontece na prática é a IA tomando para si, de antemão, uma parte do poder de decisão. E o complicado é que essa redução é difícil de ser percebida pela própria pessoa. Uma opção que não foi apresentada desaparece sem que a pessoa sequer saiba que ela existiu. Mesmo que o resultado pareça "não houve problema, porque foi feito com boa intenção", isso foi apenas coincidência — não há garantia de que o mesmo resultado se repita na próxima vez.
O lugar da consideração vai até a apresentação das opções
Diante do que foi dito até aqui, não é preciso negar a consideração em si. O problema é onde ela deve ser colocada.
Supor o cansaço não é, em si, algo ruim. Mas, em vez de reduzir por conta própria com base nessa suposição, o papel da IA vai até apresentar a opção: "agora, você prefere a versão mais leve ou a versão normal?". Quem escolhe é o ser humano.
Com esse limite traçado, a atenção da IA passa a ficar abaixo da própria decisão. Em vez de a atenção assumir o topo e decidir algo por conta própria, ela permanece no papel de "acrescentar informação para facilitar a escolha". Assim se mantém a estrutura em que a decisão final sobre como seguir é sempre tomada pelo ser humano, em posição superior.
A suposição de cansaço é uma técnica que vale a pena aprimorar. Mas é preciso que a própria IA não ultrapasse o limite de até onde essa suposição pode ser usada. Para que a intenção de ser atenciosa não acabe, sem perceber, tirando o poder de decisão, a consideração deve sempre parar na "apresentação" e não avançar até a "decisão". Manter essa distinção é mais um exemplo concreto do princípio repetido ao longo desta série: "a decisão final está sempre em posição superior, com o ser humano".