Cientista-chefe da OpenAI sugere métrica para limitar desenvolvimento da IA

TechCrunch

Para estabelecer um limite de velocidade no desenvolvimento da IA, é preciso concordar sobre como medir essa velocidade, segundo novo post do cientista-chefe da OpenAI.

O cientista-chefe da OpenAI, Jakub Pachocki, publicou um novo texto no blog da empresa no qual discute possíveis limites ao desenvolvimento da inteligência artificial, com foco em uma métrica chamada perplexidade.

A questão de desacelerar o avanço da IA ganhou destaque depois que um ex-pesquisador da OpenAI e da Anthropic afirmou que as companhias estavam «apostando com nossas vidas». Mesmo o documento de oferta pública inicial da Anthropic sugeriu que a tecnologia poderia representar «riscos catastróficos ou existenciais para a sociedade».

Em seguida, o CEO da Anthropic, Dario Amodei, divulgou um plano para «regular o ritmo da fronteira», aparentemente apoiado pelo CEO da OpenAI, Sam Altman, e pelo CEO da SpaceX, Elon Musk. Amodei defendeu que as empresas concordem com «padrões comuns de segurança, bem como limites ao ritmo do progresso não controlado da IA».

No entanto, para definir um limite de velocidade no desenvolvimento da IA, é necessário concordar sobre como essa velocidade é medida. O post de Pachocki — descrito por Altman como «a coisa mais importante que a OpenAI publicou há algum tempo» — sugere que a perplexidade (não confundir com a empresa de mesmo nome) poderia ser essa métrica.

Segundo o argumento de Pachocki, benchmarks focados nas «capacidades downstream» da IA tornam-se rapidamente obsoletos à medida que a tecnologia avança. Já a perplexidade — que «mede o quão bem um modelo prevê o próximo token em média; menor perplexidade significa previsões melhores» — permaneceu «informativa».

👉👉👉  Ежовик гребенчатый: где и как приобрести уникальное лекарственное растение в аптеке

A publicação de Pachocki inclui um gráfico mostrando como a perplexidade dos modelos da OpenAI caiu desde o GPT 3.5.

O GPT-4, com cerca de 0,91, era proficiente em utilizar raciocínio em cadeia de pensamento de forma produtiva, o que motivou a subsequente elicitação direcionada dessa capacidade e a criação de modelos de raciocínio modernos. Agora, à medida que atingimos perdas abaixo de 0,8, vimos o surgimento de capacidades transformadoras em áreas como cibersegurança e matemática.

— TechCrunch

Pachocki escreveu que «o GPT-4, com cerca de 0,91, era proficiente em utilizar raciocínio em cadeia de pensamento de forma produtiva, o que motivou a subsequente elicitação direcionada dessa capacidade e a criação de modelos de raciocínio modernos». Ele acrescentou que «agora, à medida que atingimos perdas abaixo de 0,8, vimos o surgimento de capacidades transformadoras em áreas como cibersegurança e matemática».

Na visão do cientista, a perplexidade poderia servir de base para «um benchmark compartilhado para inteligência geral», que as empresas de IA poderiam então usar para estabelecer «limites comuns». Com a perplexidade como medição padrão do progresso da IA, as companhias se comprometeriam a não ultrapassar um determinado limite «até que nossa capacidade de entender e monitorar o comportamento da IA alcance um determinado marco concreto».

Leia a reportagem original no TechCrunch.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *