Carta aberta alerta sobre IA – e também deve se aplicar à criptografia

Por

E aí, pessoal! Prontos para embarcar na viagem maluca das notícias de cripto? No nosso canal do Telegram, vamos explorar o mundo das criptomoedas com leveza e bom humor. É como um papo de bar sobre Bitcoin, só que sem a ressaca no dia seguinte! 😄 Junte-se a nós agora e vamos desvendar esse universo juntos! 💸🚀

☞ Junte-se ao Telegram

Como um investidor criptográfico que experimentou em primeira mão a falta de transparência e supervisão regulatória na indústria, não posso deixar de traçar paralelos com o estado atual das coisas na inteligência artificial. A carta aberta anônima de ex-funcionários da OpenAI expressando suas preocupações sobre o fato de a IA exacerbar as desigualdades, alimentar a desinformação e levar a sistemas incontroláveis ​​é um lembrete assustador dos perigos potenciais que estão por vir.

O rápido avanço e a natureza complexa da inteligência artificial (IA) e das criptomoedas representam desafios significativos para a regulamentação devido ao seu desenvolvimento acelerado. No entanto, as preocupações estão a aumentar, uma vez que aqueles que possuem informações privilegiadas podem estar a enfrentar o silêncio ou a supressão.

Mais uma semana e mais um alerta sobre inteligência artificial.

Esta carta aberta, que levanta preocupações sobre o possível agravamento das disparidades, a difusão de informações falsas e a criação de sistemas de inteligência artificial incontroláveis ​​com consequências potencialmente catastróficas para a humanidade, repercutiu fortemente.

Quatro signatários atuais são empregados da OpenAI, criadora do ChatGPT, enquanto outros seis já trabalharam lá.

Como analista que estuda o desenvolvimento e implementação de inteligência artificial (IA), notei uma tendência preocupante entre figuras-chave da área. Embora estejam optimistas quanto às potenciais vantagens que a IA pode trazer à humanidade, manifestam apreensão relativamente à compreensão pública e à supervisão regulamentar. Estas pessoas acreditam que, embora os benefícios possam de facto ser sem precedentes, a dimensão total da situação não está a ser totalmente compreendida pela população em geral e pelos órgãos governamentais.

Como pesquisador que estuda o papel das empresas de IA em nossa sociedade, encontrei informações valiosas sobre as capacidades, limitações, medidas de proteção e riscos potenciais de seus sistemas. No entanto, muitas destas informações permanecem não divulgadas aos governos e à sociedade civil. Embora estas empresas possam ter algumas obrigações de apresentação de relatórios às autoridades, parece haver falta de transparência quando se trata de partilhar informações críticas com o público. Com base nas tendências atuais, não acredito que eles compartilhem essas informações voluntariamente, sem pressão ou regulamentação.

Direito de avisar

As semelhanças entre a inteligência artificial (IA) e o setor criptográfico são bastante pronunciadas. Ambos os campos são caracterizados por avanços rápidos e complexidades intrincadas, colocando desafios significativos para governos e órgãos reguladores. Por exemplo, muitos políticos lutam para compreender os fundamentos destes domínios. Um exemplo notável é o representante dos EUA Brad Sherman, que identificou erroneamente o criador do Bitcoin como “Satoshi Nagamoto” em vez da natureza descentralizada da criptomoeda.

“Não acredito que Saratoshi Nagamoto tenha sido inovador.”#Bitcoin não dá a mínima.

— Guti ₿ (@guti_uno) 27 de julho de 2023

Como investidor em criptografia, percebi o desafio de criar regulamentações claras que promovam a inovação entre jogadores honestos e, ao mesmo tempo, desencorajem atividades ilícitas de atores mal-intencionados. A natureza em rápida evolução desta indústria torna difícil para as leis acompanharem os avanços tecnológicos. Quando os organismos reguladores conseguiram recuperar o atraso, o panorama mudou frequentemente, tornando a legislação existente obsoleta e ineficaz na abordagem dos riscos actuais. É alarmante que, apesar do lançamento do Bitcoin há mais de 15 anos, ainda exista uma incerteza regulatória significativa em torno das criptomoedas nos EUA.

De acordo com a carta aberta escrita por especialistas em IA, a ausência de regulamentação governamental robusta deixa as empresas fortemente dependentes de denunciantes internos para a responsabilização. Uma grande preocupação expressa pelos autores gira em torno de como estes acordos de confidencialidade suprimem a capacidade dos denunciantes de divulgar publicamente informações importantes.

“As salvaguardas padrão para denunciantes são insuficientes, pois tratam principalmente de ações ilegais. No entanto, há vários riscos que nos preocupam e que ainda não foram regulamentados. Alguns de nós temos preocupações válidas em relação a possíveis represálias.”

Direito de avisar

A simetria entre inteligência artificial e criptomoedas é evidente mais uma vez, conforme demonstrado na extensa investigação sobre o colapso da FTX em 2022. Esta investigação, liderada por um examinador independente, revelou que seis informantes anônimos com queixas válidas foram recompensados ​​coletivamente com US$ 25 milhões. Um indivíduo foi instruído a retirar suas acusações contra o agora preso CEO Sam Bankman-Fried e finalmente chegou a um acordo de US$ 16 milhões ao deixar seu cargo.

Como investidor em criptografia, testemunhei o progresso significativo feito pela indústria na superação de reveses passados, como as falências da BlockFi, Voyager e Celsius. No entanto, é essencial reconhecer que é necessário mais trabalho para garantir um ecossistema robusto e confiável. Os quatro compromissos descritos nesta carta aberta são particularmente relevantes para o setor de ativos digitais à medida que continuamos os nossos esforços coletivos em prol da transparência, responsabilização e resiliência.

As empresas de inteligência artificial com influência significativa na indústria são instadas a flexibilizar as suas políticas, evitando críticas dos seus funcionários, especialmente aqueles que expressam preocupações sobre riscos potenciais. Deve ser estabelecido um sistema de relatórios confidenciais para permitir que os funcionários expressem as suas preocupações aos conselhos de administração, órgãos reguladores e especialistas externos. A implementação de tais medidas poderia ter evitado algumas controvérsias importantes dentro da comunidade criptográfica.

Como um investidor criptográfico comprometido e defensor da transparência no setor de IA, acredito fortemente na promoção de um ambiente onde críticas construtivas não sejam apenas bem-vindas, mas encorajadas. Além disso, prometo que, como líder nesta área, me absterei de retaliar contra funcionários que se sintam obrigados a divulgar informações confidenciais, depois de esgotar todas as outras opções viáveis ​​para resolver as suas preocupações.

O impacto desta carta aberta na regulamentação da IA ​​permanece incerto. Por outro lado, a transparência inerente ao blockchain tem mérito, pois permite o monitoramento em tempo real das transações e do fluxo de fundos. Em contraste, os grandes modelos linguísticos, muitas vezes desenvolvidos em segredo, carecem do mesmo nível de transparência.

As repercussões da inação são igualmente graves nas indústrias de criptografia e de IA, representando riscos significativos para os consumidores diários. A comunicação ineficaz de riscos resultou em perdas devastadoras para muitos investidores em criptomoedas, com a ausência de uma ação regulatória unida que permita que jogadores desonestos operem sem restrições. Além disso, a crescente sofisticação da tecnologia de IA poderá em breve ameaçar os empregos de milhões de pessoas, à medida que o trabalho humano se tornar cada vez mais obsoleto.

2024-06-06 23:36