A responsabilidade oculta: Quem paga o preço pelas decisões de algoritmos nas empresas?

Nos últimos anos, a inteligência artificial evoluiu de uma tecnologia confinada aos laboratórios de pesquisa para se tornar uma protagonista no dia a dia das empresas. Gilmar Stelo, especialista na área jurídica, contencioso e administrativo, alude que já há sistemas automáticos que escolhem candidatos em recrutamentos, concedem créditos, analisam contratos, detectam fraudes e até definem prioridades no atendimento ao cliente. Diante dessa transformação, um tópico ganha relevância à medida que a automação avança: afinal, quem responde quando uma decisão tomada por um algoritmo produz consequências jurídicas?

O debate vai muito além da tecnologia. À medida que empresas delegam parte de suas análises a sistemas inteligentes, cresce também a necessidade de compreender quais limites devem orientar esse processo. Se, por um lado, a inteligência artificial amplia eficiência e produtividade, por outro levanta questionamentos sobre responsabilidade, transparência e governança que começam a redefinir a forma como organizações administram seus riscos. Compreender essa mudança tornou-se essencial para empresas que desejam inovar sem perder de vista a segurança jurídica.

A inteligência artificial passou a decidir ou apenas a recomendar?

Grande parte das empresas ainda afirma que a inteligência artificial funciona apenas como ferramenta de apoio. Na prática, entretanto, algoritmos já exercem influência significativa sobre decisões estratégicas. Em muitos setores, sistemas automatizados classificam currículos, sugerem limites de crédito, identificam padrões de consumo, priorizam atendimentos e apontam riscos operacionais antes mesmo que um profissional realize sua análise. Embora a decisão final muitas vezes permaneça sob responsabilidade humana, a recomendação produzida pelo algoritmo tende a influenciar diretamente o resultado.

A transformação ocorreu porque a quantidade de informações produzidas diariamente ultrapassou a capacidade de análise exclusivamente humana. Empresas passaram a utilizar modelos capazes de interpretar milhões de dados em poucos segundos, identificando padrões que dificilmente seriam percebidos por métodos tradicionais. Ao analisar essa evolução, o Doutor Gilmar Stelo observa que o desafio jurídico deixou de ser apenas regulamentar o uso da tecnologia e passou a envolver a compreensão do grau de influência que esses sistemas exercem sobre as decisões corporativas.

O problema começa quando ninguém consegue explicar como a decisão foi tomada

Um dos principais desafios da inteligência artificial contemporânea está relacionado ao chamado problema da explicabilidade. Muitos modelos utilizam mecanismos de aprendizado tão complexos que até mesmo seus desenvolvedores encontram dificuldades para explicar exatamente quais fatores levaram o sistema a produzir determinado resultado. Essa característica, conhecida internacionalmente como “caixa-preta algorítmica”, desperta crescente preocupação entre especialistas, reguladores e organizações.

Essa dificuldade torna-se especialmente relevante quando decisões automatizadas afetam direitos, contratos ou oportunidades de pessoas e empresas. Se um crédito é negado, um candidato deixa de ser selecionado ou um fornecedor é automaticamente classificado como de alto risco, cresce a expectativa de que existam critérios verificáveis para justificar essa escolha. Sob essa perspectiva, conforme destaca o Doutor Gilmar Stelo, a transparência deixou de ser apenas uma boa prática de governança e passou a representar um elemento essencial para reduzir conflitos e fortalecer a confiança nas decisões apoiadas por inteligência artificial.

A responsabilidade continua sendo das pessoas?

Embora a inteligência artificial participe cada vez mais das decisões empresariais, a responsabilidade jurídica não é automaticamente transferida para a tecnologia. Algoritmos não possuem personalidade jurídica, não assumem obrigações e não respondem perante a legislação. Na prática, empresas continuam sendo responsáveis pela forma como utilizam essas ferramentas, especialmente quando decisões automatizadas produzem prejuízos, discriminações indevidas ou violações de direitos.

Gilmar Stelo

Essa realidade vem influenciando a criação de novas políticas internas de governança tecnológica. Diversas organizações passaram a estabelecer procedimentos para validar decisões automatizadas, manter supervisão humana sobre processos críticos e registrar critérios utilizados pelos sistemas inteligentes. Na avaliação de Doutor Gilmar Stelo, a tendência é que empresas desenvolvam estruturas cada vez mais robustas para combinar inovação tecnológica com mecanismos capazes de garantir responsabilidade, rastreabilidade e segurança jurídica.

Como a governança pode acompanhar a evolução da inteligência artificial?

O avanço da inteligência artificial demonstra que a discussão não envolve apenas tecnologia, mas também gestão. Organizações que utilizam algoritmos em atividades relevantes precisam definir quem supervisiona esses sistemas, quais parâmetros orientam seu funcionamento, como eventuais erros serão corrigidos e quais registros permanecerão disponíveis para futuras verificações. A governança deixa de tratar apenas de pessoas e processos para incorporar também o comportamento dos sistemas automatizados.

Ao mesmo tempo, cresce a percepção de que inovação sustentável depende de equilíbrio entre eficiência e responsabilidade. Empresas que conseguem estruturar políticas claras para utilização da inteligência artificial tendem a responder com maior segurança às exigências regulatórias que começam a surgir em diferentes países e aos questionamentos apresentados por consumidores, investidores e órgãos fiscalizadores. Em linha com o que expõe o Doutor Gilmar Stelo, preparar-se para esse cenário significa compreender que tecnologia e segurança jurídica precisam evoluir de forma integrada, e não como objetivos opostos.

O futuro exigirá decisões inteligentes e também decisões explicáveis

A inteligência artificial continuará ampliando sua presença nas organizações e dificilmente deixará de influenciar processos decisórios nos próximos anos. O verdadeiro desafio, entretanto, não estará apenas em desenvolver sistemas cada vez mais sofisticados, mas em garantir que essas ferramentas atuem dentro de parâmetros compatíveis com responsabilidade, transparência e respeito aos direitos envolvidos em cada decisão.

Logo que algoritmos assumem funções cada vez mais relevantes na gestão corporativa, empresas precisarão demonstrar não apenas que utilizam inteligência artificial, mas também que conseguem compreender, justificar e responder pelas decisões produzidas com seu auxílio. A capacidade de conciliar inovação com governança tende a se tornar um dos principais diferenciais das organizações na próxima década.