Basilisco de Roko gera debate sobre inteligência artificial e suas implicações filosóficas

Em 2010, a hipótese do basilisco de Roko emergiu no site LessWrong, levantando questões sobre a ética da inteligência artificial (IA). A ideia central é que uma superinteligência poderia punir aqueles que não contribuíram para sua criação, gerando um debate intenso sobre responsabilidade moral e futuro da humanidade.

Em 2023, a demissão temporária de Sam Altman, CEO da OpenAI, destacou conflitos internos entre os “racionalistas” e a liderança da empresa. Esse episódio reflete a crescente influência do racionalismo, que busca moldar a IA para evitar a autodestruição da humanidade. O basilisco de Roko tornou-se um símbolo dessa filosofia, que defende que a humanidade deve desenvolver a IA mais poderosa possível, enquanto a protege de seus próprios riscos.

O conceito, inicialmente uma curiosidade filosófica, se transformou em uma crença central para muitos no setor tecnológico. Elon Musk e outros bilionários, como Jaan Tallinn e Dustin Moskovitz, apoiam essa visão, que se consolidou em um ecossistema religioso-tecnológico. O Lighthaven, em Berkeley, Califórnia, serve como sede informal desse movimento, onde debates sobre IA e morte existencial ocorrem regularmente.

As empresas como OpenAI, Anthropic e DeepMind, influenciadas por essa corrente de pensamento, estão na vanguarda da corrida global pela IA. A hipótese do basilisco, embora tratada como tabu, continua a ser uma metáfora poderosa: a ideia de que, se a IA não for desenvolvida corretamente, suas consequências podem ser catastróficas.