A Ciência na Era da Inteligência Artificial
Realizou-se no último dia 6 de junho a sessão denominada “Navigating the Intersection of Open Science and AI: Exploring Opportunities and Challenges in the Era of Artificial Intelligence”, promovida pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO).
O debate, que reuniu especialistas na área, durou cerca de duas horas e trouxe à baila inúmeras questões acerca da inteligência artificial (IA), sendo dois os aspetos mais comentados a importância da qualidade e curadoria dos dados que a suportam e a opacidade, a autêntica “black box”, que tem ‘encapsulado’ as soluções que surgem no mercado. Outros pontos críticos, como a questão da ‘sustentabilidade’ foram também abordados, sendo conhecida a demanda energética para o funcionamento da IA em conjunto com a sua massificação que se prevê avizinhar.
O ponto alto do encontro foi a apresentação do relatório “Science in the Age of AI”, produzido pela “Royal Society”.
A “Royal Society” é a academia nacional de ciências do Reino Unido. Trata-se da mais antiga academia científica do mundo, fundada em 1660. Ao longo dos séculos, publicou obras que moldaram a ciência. Na era contemporânea, um dos seus mais afamados relatórios foi aquele que ficou conhecido por “Bodmer Report” (1985) e que na altura introduziu o paradigma do “Public Understand of Science” (PUS), que, mais tarde, viria a ser dar lugar ao “Public Engagement with Science and Technology”.
O relatório apresentado divide-se em 5 capítulos e apresenta 4 recomendações acerca do desenvolvimento da IA, a saber:
#1: Melhorar o Acesso a Infraestruturas Essenciais de IA
Os governos, os financiadores de pesquisa e os desenvolvedores devem melhorar o acesso aos recursos computacionais essenciais para a pesquisa em IA, possibilitando um acesso equitativo a poder computacional e infraestruturas de dados, o que é crítico para os avanços científicos.
Como ações sugeridas enumeram-se o compartilhamento de infraestruturas essenciais de IA; garantir o acesso a conjuntos de dados de alta qualidade e infraestruturas de dados interoperáveis entre diferentes setores e regiões; o desenho de estratégias para monitorar e mitigar o impacto ambiental associado ao aumento das demandas computacionais.
#2 Melhorar a Acessibilidade e Usabilidade das Ferramentas de IA
O simples acesso às ferramentas de IA não é o garante do seu uso eficaz e responsável. É fundamental melhorar a usabilidade dessas ferramentas para que investigadores de diferentes campos do saber as possam utilizar em conformidade.
Como ações sugeridas destacam-se a necessidade de se estabelecer currículos de literacia em IA e em dados de investigação em vários campos científicos; a criação de estratégias para aprimorar a compreensão e usabilidade da IA para não especialistas; A implementação de mecanismos que facilitem a tradução do conhecimento entre domínios e fomente a colaboração interdisciplinar.
#3: Garantir que a Pesquisa Baseada em IA Atenda aos Princípios de Ciência Aberta
Nem tudo o que é alcançado pela IA é reproduzível, o que levanta preocupações sobre a confiabilidade dessas descobertas. A promoção de princípios de ciência aberta é fundamental para ajudar a melhorar a reprodutibilidade e a equidade no acesso aos benefícios da IA.
Entre as principais ações sugeridas estão a adoção de princípios e práticas de ciência aberta e o seu devido reconhecimento, materializado em oportunidades de progressão na carreira, o incentivo à colaboração internacional de infraestruturas, ferramentas e práticas de ciência aberta; considerar maneiras de desencorajar o desenvolvimento de ecossistemas fechados de IA na ciência.
#4: Garantir o Uso Seguro e Ético da IA na Pesquisa Científica
A aplicação de IA na ciência deve considerar com cautela os riscos potenciais e os seus usos indevidos, como viés de dados, ataques de ‘envenenamento’ de dados e disseminação de desinformação científica. É crucial que as comunidades científicas desenvolvam a capacidade de supervisionar e garantir o uso ético da IA.
De forma a conseguir alcançar estas metas, sugerem-se ações como a operacionalização de taxonomias de riscos de IA; adotar estruturas éticas disponíveis para IA e práticas que combinem ciência aberta como salvaguardas contra riscos potenciais; implementar formação em ética de IA e capacitar os cientistas a conduzir avaliações de impacto ético de modelos de IA; apoiar o desenvolvimento de abordagens interdisciplinares e participativas para auditorias de segurança, garantindo a participação de peritos e leigos em IA, bem como das comunidades envolvidas.
Como conclusão, o relatório assume que IA traz, sem sombra de dúvidas, uma nova era de desafios e possibilidades os quais não consigamos ainda vislumbrar na sua totalidade. Contudo, já estão identificadas questões e problemas relacionados com a confiabilidade e reprodução dos resultados alcançados, com a colaboração interdisciplinar e, principalmente, com os limites da ética, devendo a IA ser aplicada em prol do benefício de toda a humanidade. É absolutamente fundamental futura investigação envolvendo a comunidade científica e outros responsáveis para que se melhor compreenda as implicações do impacto da IA no futuro da própria ciência.
Categorias: blogue & notícias, internacional
