Do laboratório ao livro-razão: Chaves humanas protegem a integridade científica | Opinião

Como pesquisador com doutorado em neurociência e experiência em criptografia, encontro-me na encruzilhada de dois campos em rápida evolução – ciência e tecnologia. O advento da IA, embora promissor em muitos aspectos, apresenta desafios significativos à integridade dos dados, à identidade e à verificação da reputação. Se não for controlada, poderá levar a uma era de desinformação, paralisando a inovação científica e potencialmente degradando a criatividade e a inovação humanas.

O rápido avanço da IA, ultrapassando as medidas regulamentares, pode potencialmente pôr em risco a integridade dos dados, a verificação da identidade pessoal e a reputação e, se não for abordado prontamente, poderá aumentar a propagação da desinformação e dificultar o ritmo dos avanços científicos. O impulso no sentido de uma IA altamente inteligente por parte dos seus fervorosos defensores é comparado à busca por uma nova era de ouro na ciência. No entanto, esta procura pode levar a um risco existencial, em que a nossa sociedade poderá estagnar num patamar tecnológico devido à adoção generalizada de tecnologia imatura de IA, diminuindo eventualmente a criatividade e a inovação humanas ao longo do tempo.

Esta é uma opinião contraditória para a maioria dos aceleracionistas. Supõe-se que a IA aumente a nossa capacidade de trabalhar mais rapidamente e de sintetizar maiores quantidades de informação. No entanto, a IA não pode substituir o raciocínio indutivo ou o processo experimental. Hoje, qualquer pessoa pode usar a IA para fabricar uma hipótese científica e usá-la como insumo para gerar um artigo científico. Os resultados de produtos como o Aithor muitas vezes parecem confiáveis ​​​​superficialmente e podem até passar na revisão por pares. Isto é um grande problema porque os textos gerados pela IA já estão a ser curados como descobertas científicas legítimas e muitas vezes incluem dados falsos fabricados para apoiar as suas afirmações. Existe um grande incentivo para que os jovens investigadores utilizem todos os meios de que dispõem para competir por um número limitado de empregos académicos e oportunidades de financiamento. O atual sistema de incentivos no meio académico recompensa aqueles que conseguem publicar o maior número de artigos, independentemente de esses artigos descreverem descobertas legítimas ou não – basta que sejam aprovados na revisão por pares e obtenham citações suficientes. 

Conteúdo académico confiável é crucial para indústrias que dependem fortemente da ciência básica para a sua investigação e desenvolvimento, uma vez que este trabalho sustenta a funcionalidade da nossa sociedade e melhora a qualidade de vida de uma população global em expansão. Infelizmente, quando a autoria de tal conteúdo acadêmico é questionável, isso pode criar desafios significativos. Consequentemente, as organizações de investigação e desenvolvimento (I&D) com bons recursos só podem confiar em estudos que possam realizar e replicar, aumentando assim a importância dos segredos comerciais e potencialmente dificultando a ciência aberta e o acesso a informações valiosas.

Não se trata apenas de medidas dispendiosas contra a desinformação; a questão em questão é uma erosão generalizada da confiança no próprio conhecimento. Afirmações não verificadas e atribuições pouco claras estão a minar o progresso científico, representando um risco para a comunidade científica. O que necessitamos urgentemente agora é de um sistema que possa autenticar conteúdos e dados com precisão, criando um ecossistema de informação baseado na verdade.

Os sistemas de IA são tão poderosos quanto os dados nos quais são treinados 

Grandes modelos de linguagem são excelentes ferramentas para gerar conteúdo convincente; no entanto, eles são tão informativos quanto os dados nos quais foram treinados. A sua capacidade de extrapolar fora do conjunto de treino ainda permanece limitada. O papel da ciência não é apenas sintetizar o conhecimento existente, mas criar novos artefactos informativos que aumentem a entropia do corpus colectivo de conhecimento acumulado pela humanidade. Com o tempo, à medida que mais pessoas usam IA para gerar conteúdo e menos pessoas geram conteúdo original, enfrentaremos um “inchaço de baixa entropia” que não introduz novas informações ao mundo, mas apenas recombina conhecimentos passados. As fontes primárias perder-se-ão à medida que o novo “conhecimento” se basear em conteúdos auto-referenciais gerados pela IA, a menos que construamos uma proveniência resiliente e uma camada de atribuição verificada em ferramentas de IA utilizadas para investigação séria.

“Simplificar a complexidade do conhecimento humano através do que é análogo à ‘lobotomização’ poderia ter efeitos a longo prazo em vários campos, incluindo medicina, economia, academia e artes. Dados enganosos podem distorcer as descobertas, causando problemas significativos no desenvolvimento de políticas e tecnologias que prejudicam a credibilidade da investigação científica Os riscos potenciais associados à ciência orientada pela IA são numerosos. O trabalho científico de rotina pode ser interrompido devido a disputas sobre autoria, acusações de plágio e falhas na revisão por pares. investir mais recursos para fazer face às repercussões da deterioração da qualidade e da fiabilidade na investigação.

A Inteligência Artificial (IA) serve como um recurso valioso para gerar ideias, organizar pensamentos e agilizar tarefas repetitivas; deve funcionar como um complemento ao conteúdo criado por humanos, e não como um substituto. É essencial que a IA não seja utilizada para escrever artigos científicos apresentando novas descobertas sem o trabalho necessário, mas sim como uma ferramenta para aumentar a produtividade e a precisão de iniciativas lideradas por seres humanos. Por exemplo, a IA poderia ser benéfica na execução de simulações em dados existentes utilizando métodos estabelecidos, automatizando este processo para ajudar na identificação de potenciais caminhos de investigação. No entanto, os projetos experimentais e o pensamento inovador essenciais para a exploração científica não podem ser facilmente substituídos.

Construindo uma economia baseada na verdade

Num sistema económico centrado na verdade, criamos uma estrutura fiável utilizando tecnologias e directrizes para defender a veracidade, segurança, abertura e rastreabilidade dos dados. Ao abordar a necessidade de fiabilidade e verificabilidade em todo o nosso mundo digital, este sistema permite que pessoas e instituições tenham confiança na exatidão das informações que partilham. O valor deriva da credibilidade das afirmações e da autenticidade das evidências e fontes iniciais. Esta economia centrada na verdade visa tornar o conhecimento digital tão confiável quanto o Bitcoin tornou a moeda tradicional, que é a visão do movimento científico descentralizado.

Como podemos chegar ao nosso destino? Comecemos por nos concentrar na pedra angular da comunidade científica: o investigador e o seu trabalho. Atualmente, os padrões da web para estabelecer a identidade de um cientista são inadequados quando se trata de confirmar afirmações sobre a identidade e a autenticidade do trabalho. Tal como está, é relativamente simples criar um perfil com uma posição respeitável; as revisões por pares também são vulneráveis ​​devido a possíveis preconceitos e conluios. Sem verificar os dados que acompanham uma afirmação científica, não podemos estabelecer uma economia baseada na confiança para a ciência.

As melhorias nas normas de identificação académica poderiam começar com a implementação de um sistema de login universal em todas as plataformas, apoiado por uma tecnologia segura de validação de identidade que dá prioridade à privacidade. Dessa forma, os usuários podem fazer login em qualquer plataforma com as mesmas credenciais, confirmar sua autenticidade e escolher quais informações sobre sua reputação, dados ou interações com outros usuários desejam compartilhar.

No cerne do DeSci está uma estrutura de identidade baseada na reputação verificável de um pesquisador. Esta fundação visa estabelecer uma economia científica abrangente e em cadeia, aberta a colaboradores públicos e anónimos. Ao facilitar a colaboração online massiva para atividades de investigação, esta economia incentiva a participação de todos os cantos.

Salvaguardar o futuro do progresso humano

Para construir uma base confiável para a verdade, devemos garantir que a informação seja transparente e completamente validada para manter a confiança nas nossas comunidades de investigação. A longevidade do nosso crescimento colectivo, com futuros avanços em domínios como a ciência dos materiais, a biotecnologia, a neurociência e a ciência da complexidade, depende da preservação de investigação de alta qualidade e de dados precisos. Esta distinção entre nós e as sociedades pré-iluministas definirá se progrediremos ou estagnaremos, conduzindo potencialmente ao declínio intelectual da nossa espécie. Ainda não se sabe se o DeSci pode nos salvar, mas o tempo está se esgotando para consertar as coisas.

• WIF PREVISÃO. WIF criptomoeda

• DYDX PREVISÃO. DYDX criptomoeda

• BCH PREVISÃO. BCH criptomoeda

• Guia da família de Paul McCartney: conheça seus filhos, netos e muito mais

• PONKE PREVISÃO. PONKE criptomoeda

• Grayscale lança fundo Maker, baleias começam a se acumular

• Como usar o Uniswap para trocar tokens e muito mais (passo a passo para iniciantes)

• Lavrov compara os nazistas ucranianos com o terceiro Reich

• BRETT PREVISÃO. BRETT criptomoeda

• Guia passo a passo de como sair do Metamask

2024-12-22 16:14