Com o Big Data vem também um "big" problema ético

Segundo o white paper da IDC ‘Data Age 2025’, de abril 2017, é esperado que em 2025 a economia digital multiplique por dez o volume de dados gerados, chegando aos 163 Zetabytes, sendo que o volume de dados críticos para a nossa vida passará dos atuais 10% (de 16 Zb) para 20%, ou seja mais de 32 Zb, com uma predominância para o tratamento em tempo real, pois é estimado que um quarto dos 163 Zb , ou seja, mais de 40 Zb, sejam tratados em tempo real.

A economia digital introduz outros riscos associados às informações que se podem descobrir a partir da obtenção de tais volumes, variedade e frequência de dados. Nos dias de hoje, mesmo não utilizando dados considerados pessoais, ao abrigo e respeitando o RGPD, com a inteligência artificial (IA) e o machine learning (ML) é possível descobrir / determinar o perfil de uma pessoa. Isso levanta muitas questões éticas e mesmo legais, em especial se combinado com mecanismos de decisão automática suportados em Modelos Analíticos / Algoritmos cujas ações desencadeadas em tempo real e/ou à posteriori, com suporte de Big Data, que tiverem um impacto na justiça social e/ou económica individual ou de uma comunidade.

Ora, muitos desses dados, direta ou indiretamente, poderão ser considerados dados pessoais - sensíveis, muito sensíveis - e que, por isso, estão sujeitos a regras / leis de proteção e auditoria, mas isso não é suficiente, visto que as leis de proteção de dados pessoais normalmente não incluem aspetos de ordem ética e moral, embora possam estar subjacentes ou no espírito da lei. Deste modo, cabe às organizações implementar códigos morais e de ética que abranjam o ciclo de vida completo dos dados, desde a obtenção, preparação, tratamento, agregação, descoberta de perfis, partilha, retenção, arquivo e destruição.

Ethics Risks Assessments

Atualmente a maioria das organizações não têm plataformas/processos de governação dos dados e da informação, e muito menos as que têm tais processos são regidas por um código de ética. Algumas classes profissionais estão sujeitas a um código ético e/ou de conduta, mas para as profissões não reguladas, quando tal existe, existe na forma de um conjunto de políticas internas que na maioria dos casos não são realmente conhecidas ou compreendidas pelos funcionários.

A meu ver, as organizações têm a obrigação de implementar processos de governação dos dados e da informação que deverão incluir uma gestão efetiva do consentimento para a obtenção dos dados, sua manipulação/ processamento/tratamento/utilização e partilha, assim como - e de tão ou maior importância - protocolos de governação dos modelos de IA / ML - desde o porquê e da definição dos critérios para a sua criação (o que se pretende obter com o modelo e porquê), obtenção dos dados para desenvolvimento, para treino, metodologias de teste pré-produção e de processamento do feedback da sua aplicação / execução. Claro que os Data Scientists que os irão desenvolver são uma peça fulcral para garantir que os princípios éticos são respeitados.

Assim, a definição de Ethics Risk Assessments deveria ser implementada desde a ideia, desde a fase de conceção, desenho de processos, desenho dos modelos analíticos / inteligência artificial, até à entrada em produção com incorporação do feedback da execução. Os Ethics Risk Assessments, na forma de um conjunto de questões de despiste e validação dos princípios éticos, deveriam incluir uma efetiva monitorização com registo das ações e capacidade de análise reversa (logging and back tracing), garantindo que a execução respeita os princípios éticos e que poderá ser completamente auditada.

A implementação de Ethics Risk Assessments, na utilização de Big Data, é assim de extrema importância, ganhando ainda mais relevância quando as decisões são tomadas no edge (junto onde o evento acontece) e em tempo real.
 

Branded Content