OpenAI o co-fundador e CEO Sam Altman sentou-se para uma ampla entrevista com este editor no final da semana passada, respondendo a perguntas sobre alguns de seus investimentos pessoais mais ambiciosos, bem como sobre o futuro da OpenAI.
Havia muito o que discutir. A roupa, agora com oito anos, dominou a conversa nacional nos dois meses desde que lançou o ChatGPT, um chatbot que responde a perguntas como uma pessoa. Os produtos da OpenAI não apenas surpreenderam os usuários; a empresa está supostamente em negociações para supervisionar a venda de ações existentes para novos investidores em um $ 29 bilhões avaliação, apesar de sua comparativamente receita nominal. Enquanto isso, preocupado educadores são cada vez mais bloqueio acesso ao ChatGPT devido ao medo de que os alunos o usem para trapacear.
Altman se recusou a falar sobre os negócios atuais da empresa, disparando um tiro de advertência quando fez uma pergunta relacionada durante nossa reunião.
Ele revelou um pouco sobre os planos da empresa daqui para frente, no entanto. Por um lado, além do ChatGPT e do popular gerador de arte digital da roupa, DALL-E, Altman confirmou que um modelo de vídeo também está chegando, embora tenha dito que “não gostaria de fazer uma previsão competente sobre quando”, acrescentando que “pode ser muito em breve; é um projeto de pesquisa legítimo. Pode demorar um pouco.
Altman deixou claro que a parceria em evolução da OpenAI com a Microsoft – que primeiro investiu na OpenA em 2019 e hoje mais cedo confirmou seus planos incorporar ferramentas de IA como o ChatGPT em todos os seus produtos – não é um pacto de exclusividade.
Além disso, Altman confirmou que a OpenAI pode construir seus próprios produtos e serviços de software, além de licenciar sua tecnologia para outras empresas. Isso é notável para os observadores da indústria que se perguntam se a OpenAI pode um dia competir diretamente com o Google por meio de seu próprio mecanismo de pesquisa. (Perguntado sobre esse cenário, Altman disse: “Sempre que alguém fala sobre uma tecnologia ser o fim de alguma outra empresa gigante, geralmente está errado. As pessoas esquecem que podem fazer um contra-ataque aqui e são muito inteligentes, muito competentes. ”)
Sobre quando a OpenAI planeja lançar a quarta versão do GPT, o sofisticado modelo de linguagem no qual o ChatGPT se baseia, Altman apenas disse que o produto tão esperado “sairá em algum momento quando estivermos confiantes de que podemos [release] com segurança e responsabilidade.” Ele também tentou moderar as expectativas em relação ao GPT-4, dizendo que “não temos uma AGI real”, significando inteligência artificial geral, ou uma tecnologia com sua própria inteligência emergente, contra os atuais modelos de aprendizado profundo da OpenAI que resolvem problemas e identificam padrões por meio de testes e erro.
“Eu penso [AGI] é mais ou menos o que se espera de nós” e o GPT-4 “vai decepcionar” as pessoas com essa expectativa, disse ele.
Nesse meio tempo, perguntou sobre quando Altman espera ver inteligência artificial geral, ele postulou que está mais perto do que se poderia imaginar, mas também que a mudança para “AGI” não será tão abrupta quanto alguns esperam. “Quanto mais nos aproximamos [to AGI]mais difícil é responder porque acho que será muito mais confuso e uma transição muito mais gradual do que as pessoas pensam”, disse ele.
Naturalmente, antes de encerrarmos as coisas, passamos um tempo conversando sobre segurança, incluindo se a sociedade tem proteções suficientes para a tecnologia que a OpenAI já lançou no mundo. (Muitos críticos acreditam que não. O Google, notavelmente, tem relutado em lançar seu próprio chatbot de IA, LaMDA, devido a preocupações sobre sua “risco reputacional.”)
Altman disse aqui que o OpenAI tem “um processo interno em que meio que tentamos quebrar as coisas e estudar os impactos. Utilizamos auditores externos. temos externo times vermelhos. Trabalhamos com outros laboratórios e temos organizações de segurança analisando as coisas.”
Ao mesmo tempo, disse ele, a tecnologia está chegando – da OpenAI e de outros lugares – e as pessoas precisam começar a descobrir como conviver com ela, sugeriu ele. “Existem mudanças sociais que o ChatGPT vai causar ou está causando. Um grande problema acontecendo agora é sobre seu impacto na educação e na integridade acadêmica, tudo isso.” Ainda assim, ele argumentou, “iniciar essas [product releases] agora [makes sense]onde as apostas ainda são relativamente baixas, em vez de apenas divulgar o que toda a indústria terá em alguns anos, sem tempo para a sociedade se atualizar.”
Na verdade, os educadores – e talvez os pais também – devem entender que não há como colocar o gênio de volta na garrafa. Embora Altman tenha dito que a OpenAI e outras empresas de IA “experimentarão” tecnologias de marcas d’água e outras técnicas de verificação para ajudar a avaliar se os alunos estão tentando passar a cópia gerada por IA como se fossem suas, ele também deu a entender que focar demais nesse cenário específico é Fútil. “Pode haver maneiras de ajudar os professores a detectar um pouco mais a saída de um sistema semelhante ao GPT, mas, honestamente, uma pessoa determinada vai contorná-los e não acho que será algo que a sociedade possa ou deve confiar no longo prazo.”
Não será a primeira vez que as pessoas se ajustaram com sucesso a grandes mudanças, acrescentou. Apontando para calculadoras que “mudaram o que testamos nas aulas de matemática” e o próprio Google, que tornou a necessidade de memorizar fatos muito menos importante, Altman observou que os modelos de aprendizado profundo representam “uma versão mais extrema” de ambos os desenvolvimentos. Mas ele argumentou que “os benefícios também são mais extremos. Ouvimos professores que estão compreensivelmente muito nervosos com o impacto disso nos deveres de casa. Também ouvimos muitos professores dizerem: ‘Uau, este é um tutor pessoal inacreditável para cada criança’.”
Para uma conversa completa sobre a evolução das visões de OpenAI e Altman sobre a mercantilização da IA, regulamentos e por que a IA está indo “exatamente na direção oposta” que muitos imaginaram cinco a sete anos atrás, vale a pena conferir o clipe abaixo.
Você também ouvirá Altman abordar os cenários de melhor e pior caso quando se trata da promessa e dos perigos da IA.
A versão curta? “O bom caso é tão inacreditavelmente bom que você parece uma pessoa realmente maluca para começar a falar sobre isso”, ele disse. “E o caso ruim – e acho que isso é importante dizer – é, tipo, luzes apagadas para todos nós.”