O software agora é não determinístico. Seja o humano responsável.

Até agora, toda tecnologia que a humanidade construiu era determinística. Um termostato mede a temperatura: se estiver acima de N, liga o ar-condicionado. O software fazia exatamente o que você escrevia. Engenheiros eram treinados para pensar de forma determinística. Erros eram bugs, não features.

   DETERMINISTIC                       NON-DETERMINISTIC (LLM)
   ─────────────                       ─────────────────────────

   input ──→ [if x > N] ──→ output      input ──→ [  LLM  ] ──→ output
                  ↓                                       ↓
                same                                    varies

   100 runs:                            100 runs:
     all 100 identical                    100 reasonable answers,
                                          none identical

   you can prove it works              you have to evaluate it

Os LLMs quebraram isso. Um modelo de linguagem pode receber mil detalhes sobre um ambiente e as pessoas nele e decidir se liga o ar-condicionado, do jeito que uma pessoa atenta decidiria. Inputs diferentes, outputs diferentes mas razoáveis. Nenhuma execução idêntica à outra. Nenhuma lógica determinística por trás da decisão.

Esta é a primeira vez na história humana que delegamos decisões reais (não só microdecisões, macrodecisões também) a um sistema que não roda de forma determinística. E o próprio sistema é um alvo móvel: mesmo input, nova versão do modelo, output diferente.

As implicações continuam se desdobrando. Podemos entregar categorias inteiras de decisões para a IA: campanhas de marketing, alocação de orçamento, insumos para o roadmap de produto, respostas de suporte, até rascunhos de estratégia. A jogada economicamente interessante é deixar o modelo decidir e deixar outros modelos avaliarem a decisão sob ângulos diferentes antes da execução. A autoavaliação multiagente é real e funciona.

Mas nem toda decisão deveria ser delegada. O exemplo mais claro: demitir alguém. Não delegue isso. É um momento profundamente humano. O modelo provavelmente consegue fazer isso de forma mais “eficiente”, mas não é essa a questão.

Então o que sobra para o humano nesse mundo?

A resposta que continua surgindo é: seja responsável. Tenha pele em jogo. O modelo, quando erra, diz “ops, desculpa” e segue em frente. Ele não sente nada. Não é afetado por estar errado. Nós somos. Clientes, parceiros, funcionários, reguladores: eles precisam de alguém para responsabilizar, e o modelo não pode ser essa pessoa.

O trabalho do humano é ser dono do resultado. Dizer eu sou responsável pelo que essa IA fez em meu nome, e se estiver errado, eu conserto. Essa responsabilidade é a parte que não se automatiza. Sem ela, a tomada de decisão por IA é insegura em qualquer velocidade; com ela, você pode deixar o sistema correr muito rápido.

Se você é fundador, isso muda como você pensa sobre o design da organização. Não “quem faz o trabalho”, e sim “quem é responsável pelo trabalho que a IA fez.” Escolha as pessoas que conseguem carregar essa responsabilidade, e deixe elas seguirem em frente.

▮