A Sumsub publicou recentemente o relatório “Estado da Confiança Digital na Região Ásia-Pacífico: Relatório de Referência sobre Governança de IA”, que revela que 94% das empresas em Hong Kong já aplicaram ou estão a testar sistemas de IA em múltiplos passos. No entanto, apenas 36% das empresas conseguem fornecer registos fiáveis e imutáveis para explicar o processo de decisão da IA, evidenciando que as empresas ainda enfrentam desafios significativos na governança da IA.
Estado e Desafios da Aplicação da IA
O relatório indica que, à medida que as capacidades dos agentes de IA continuam a aumentar, as empresas aceleraram a aplicação de decisões de IA na ausência de supervisão humana direta. No entanto, isso também resultou numa falta de rastreabilidade no processo de decisão, aumentando os riscos em termos de conformidade, operações e confiança dos clientes. O “problema da assimetria de responsabilidade” mencionado no estudo reflete a incapacidade das empresas de assumir responsabilidade nas decisões de IA, não conseguindo explicar claramente às entidades reguladoras ou aos clientes como a IA toma decisões.
Principais Descobertas do Relatório
De acordo com a pesquisa, o desempenho das empresas de Hong Kong em governança de IA apresenta algumas características notáveis em comparação com outros países da região Ásia-Pacífico:
- Expansão do âmbito de aplicação da IA: 95% das empresas de Hong Kong afirmam ter expandido a escala de aplicação da IA ou aumentado o seu grau de autonomia no último ano, ligeiramente acima da média da região Ásia-Pacífico (92%).
- Modelo de responsabilidade compartilhada: 40% das empresas de Hong Kong afirmam que a responsabilidade pelas ações da IA é partilhada por vários departamentos de negócios, superior à média da região Ásia-Pacífico (27%).
- Aplicação cautelosa em fluxos de trabalho de alto risco: 89% das empresas de Hong Kong estão dispostas a delegar tarefas de baixo risco à IA, mas permanecem cautelosas quando se trata de decisões financeiras.
- Necessidade de aumentar a maturidade da governança: A pontuação geral de governança de IA das empresas de Hong Kong é de 66,7 pontos, ligeiramente abaixo da média da região Ásia-Pacífico (67,1).
Penny Chai, vice-presidente da Sumsub para a região Ásia-Pacífico, afirmou que as empresas de Hong Kong não carecem de direção na sua estratégia de promoção da aplicação da IA, mas devem considerar cuidadosamente os mecanismos de rastreabilidade das decisões ao expandir a aplicação, a fim de reduzir os potenciais riscos operacionais.
Perspetivas Futuras e Recomendações
À medida que as empresas aumentam a sua dependência da aplicação da IA, estabelecer uma estrutura robusta de rastreabilidade e segurança torna-se uma condição prévia para o uso seguro da IA em decisões de alto risco. O relatório recomenda que as empresas promovam uma transformação estrutural, aplicando uma infraestrutura de confiança unificada, garantindo que cada ação automatizada possa ser rastreada até agentes de IA autorizados e às pessoas responsáveis pela supervisão.
Para mais detalhes e para descarregar o “Estado da Confiança Digital na Região Ásia-Pacífico: Relatório de Referência sobre Governança de IA”, visite o site oficial da Sumsub.