Carta aberta de Sam Altman, CEO da OpenAI e do Chief Scientist, Jakub Pachocki.

A cada poucas gerações, uma nova tecnologia muda tudo.

Imagine a eletricidade chegando a uma cidade rural americana na década de 1920. Antes da chegada das linhas de energia, a vida cotidiana era moldada por limites físicos: carregar água, lavar roupas à mão, conservar alimentos com gelo e encerrar grande parte das atividades do dia quando o sol se punha. A eletricidade não transformou todos os lares da noite para o dia, e muitos de seus benefícios chegaram às pessoas de forma desigual. Mas, à medida que o acesso se expandiu, a vida comum mudou. A iluminação noturna prolongou o dia. Bombas elétricas, eletrodomésticos e refrigeração reduziram parte do trabalho diário mais difícil. Os rádios trouxeram notícias, música e conexão de centenas de quilômetros de distância para dentro das casas e dos espaços comunitários.

A primeira promessa da eletricidade era prática, mas seu impacto mais profundo veio das novas possibilidades que ela abriu à medida que mais pessoas passaram a utilizá-la. Com o tempo, muitas novas possibilidades surgiram, com máquinas e computadores acelerando enormemente o progresso na medicina, na engenharia e em muitos outros campos. Até o final do século XX, a expectativa de vida média havia aumentado cerca de 23 anos, e a renda média ajustada pela inflação cerca de 50%. Esses ganhos foram impulsionados, em grande parte, pelos avanços em saúde, saneamento e padrões de vida, muitos dos quais foram possibilitados ou acelerados pela eletrificação em larga escala e pelo progresso tecnológico relacionado.

Isso está acontecendo novamente com a IA. Em breve, a IA será capaz de realizar coisas extraordinárias. Mas o ponto não é a tecnologia por si só. O ponto é o que as pessoas podem fazer com ela. Ela pode ajudar alguém a entender uma cobrança médica, aprender uma nova habilidade, iniciar um pequeno negócio, cuidar de um pai ou mãe idoso, compreender uma decisão jurídica ou financeira, transformar uma ideia em algo real ou fazer uma descoberta científica.

Embora o encantamento da luz à noite provavelmente tenha desaparecido rapidamente, o que as pessoas decidiram fazer com ela não desapareceu. E, como a tecnologia tem sido uma forma confiável de gerar prosperidade ao longo do tempo, acreditamos que a IA deve estar disponível para todos usarem tanto quanto precisarem, onde e como precisarem.

Esse futuro não acontecerá automaticamente. Tecnologias transformadoras podem concentrar poder ou ampliá-lo. Elas podem facilitar a vida de alguns ou expandir oportunidades para muitos. Nossa abordagem está enraizada na crença de que a IA deve trabalhar para as pessoas: ajudando-as a perseguir seus próprios objetivos, aumentando suas capacidades e distribuindo os benefícios dessa tecnologia da forma mais ampla possível.

Nosso primeiro compromisso é construir IA a serviço da humanidade. Isso significa que queremos capacitar amplamente as pessoas, e não ver o poder concentrado entre algumas empresas, governos ou indivíduos. Acreditamos que o futuro mais seguro é aquele em que o poder é amplamente distribuído, para que mais partes do mundo possam participar da construção de um ecossistema de resiliência.*

Somos otimistas em relação à IA porque acreditamos que ela pode expandir a capacidade humana e a prosperidade. Mas também enxergamos claramente os riscos. Sistemas poderosos devem permanecer seguros, alinhados às intenções humanas e sujeitos ao controle humano. Nossa missão na OpenAI é garantir que a AGI beneficie toda a humanidade. Isso significa construir sistemas que ajudem as pessoas a fazer mais daquilo que escolhem fazer, e não sistemas que substituam o julgamento humano sobre o que realmente importa.

Automatizar completamente tudo não é o futuro que desejamos. Seria pouco gratificante e seria perigoso. A IA deve ajudar as pessoas a perseguirem seus objetivos, não se desvincular deles. À medida que os sistemas de IA se tornam mais capazes, o papel humano se torna mais importante: definir direções, fazer escolhas entre alternativas, exercer julgamento e trazer valores, gosto, cuidado e responsabilidade para o trabalho.

Um papel fundamental de longo prazo para as pessoas será decidir o que vale a pena fazer.

Acreditamos que a IA fazendo pesquisa em IA se tornará o principal fator determinante do ritmo de progresso nos próximos anos. Isso importa porque o alinhamento é, por si só, um problema de pesquisa difícil. Para avançar de forma rápida e profunda, nossos pesquisadores precisarão de sistemas de IA capazes de ajudar a testar ideias, encontrar erros, explorar alternativas e iterar ao nosso lado.

Mas um progresso técnico mais rápido torna o julgamento humano e a coordenação pública mais importantes, não menos. O futuro deve ser moldado por pessoas, instituições e sociedades, e não apenas pelas empresas que constroem os sistemas mais avançados.

À medida que o desenvolvimento da IA de fronteira continua, esperamos que a coordenação nacional e global se torne mais importante. Há muito tempo acreditamos que deveria existir, em última instância, uma organização internacional que ajudasse a coordenar os principais esforços em IA para reduzir riscos catastróficos. Cooperação e padrões de segurança compartilhados são uma parte importante do caminho adiante, especialmente porque os incentivos ligados à competição comercial e nacional são difíceis de evitar. Um dos objetivos dessa organização deveria ser tornar possível que o mundo tomasse ações coordenadas, incluindo desacelerar o desenvolvimento de fronteira quando necessário, para que a resiliência social, a segurança e o alinhamento possam acompanhar o ritmo.

Para conseguirmos cumprir isso, estamos entrando na terceira fase da OpenAI.

A primeira fase da OpenAI foi dedicada à pesquisa rumo à AGI.
A segunda fase começou quando nossa pesquisa se tornou relevante para o mundo real e nos tornamos uma empresa de produtos: implantando nossos sistemas, aprendendo com a forma como as pessoas os utilizavam e continuando a avançar em direção a uma AGI segura e alinhada à nossa missão.
Agora estamos entrando na terceira fase. A economia está começando a se reorganizar em torno da IA. A questão central agora é como tornar a IA avançada abundante, acessível, segura, útil e simples o suficiente para que todas as pessoas e organizações possam se beneficiar dela. Capacidade de fronteira é apenas parte do trabalho. A tarefa maior é transformar essa capacidade em ferramentas que as pessoas realmente possam usar para prosperar.

Acima de tudo, acreditamos que uma ampla distribuição de poder ajudará a conduzir a um futuro melhor. A história humana mostra que o poder concentrado cria fragilidade, enquanto o poder amplamente compartilhado torna as sociedades mais resilientes, adaptáveis e livres.

É por isso que o acesso importa. É também por isso que segurança, privacidade, acessibilidade financeira, ecossistemas abertos e supervisão pública importam.

Um bom futuro com IA não pode ser aquele em que um pequeno número de instituições controla a maior parte da capacidade e dos benefícios. Deve ser um futuro em que muitas pessoas, empresas, comunidades e países possam construir, se beneficiar e exercer poder. Acreditamos que essa transformação deve pertencer a todos.

Se acertarmos nisso, a IA poderá se tornar uma base para maior produtividade, criatividade, progresso científico e oportunidade econômica para muitos, e alcançaremos nossa missão: garantir que a AGI beneficie toda a humanidade.

Resiliência em IA refere-se ao conjunto de organizações, sistemas e indivíduos que a sociedade pode estabelecer para antecipar, suportar, adaptar-se e se recuperar rapidamente de disrupções causadas pela IA. Por exemplo, o automóvel transformou a sociedade, mas só se tornou amplamente benéfico porque as sociedades construíram sistemas ao seu redor: cintos de segurança, leis de trânsito, carteiras de habilitação, testes de colisão e infraestrutura viária. O objetivo não era impedir as pessoas de dirigir — era tornar uma tecnologia poderosa suficientemente resiliente para uso generalizado.

→ Traduzido com o ChatGPT.com/translate. Qualquer erro, culpe a OpenAI.