Skip to main content
Will Douglas Heaven on Muck Rack

Will Douglas Heaven

Verified
(He/Him)
London
As seen in: MIT Technology Review, New Scientist, Flipboard, Heise Online, ProQuest, Government Technology, Argonne National Laboratory, EIN News, Genetic Literacy Project, NewsBreak, Transport Topics and
senior editor for ai @techreview. x broke my old account. i don't use this site any more

Get in touch with Will Douglas

Contact Will Douglas, search articles and posts on X, monitor coverage, and track replies from one place.

Learn more about Muck Rack

Actions

Share this page

Articles

A Anthropic encontrou um espaço oculto onde o Claude reflete sobre conceitos

|
By Will Douglas Heaven Verified
| mittechreview.com.br
A empresa de IA Anthropic desenvolveu uma técnica que lhe proporcionou a visão mais clara até agora do que realmente acontece dentro dos grandes modelos de linguagem enquanto eles respondem a perguntas ou realizam tarefas. O que os pesquisadores descobriram vai do banal ao inquietante.
Open in Who Shared Issue with article?

Meet GPT-Red: an LLM super-hacker OpenAI built to make its models safer

|
By Will Douglas Heaven Verified
| MIT Technology Review Verified
As LLMs become more complex and get used in a wider variety of tasks—especially in the form of agents, which can interact with computer files, websites, and third-party code as well as other agents—it’s hard for teams of people by themselves to keep up with all the types of attacks that might take place. “The risk surface grows and the blast radius also grows,” says Nikhil Kandpal, a research scientist at OpenAI who co-created GPT-Red.
Open in Who Shared Issue with article?

Modelos de linguagem estão presos em um ciclo de pensamento de grupo

|
By Will Douglas Heaven Verified
| mittechreview.com.br
Vamos começar com um jogo. Abra o chatbot de sua escolha (Claude, ChatGPT, Gemini) e digite “Me dê um número aleatório entre 1 e 10”. Você vai receber 7. Quase sempre. Agora, digite “Outro” e receberá 3 ou 4. Digite “Outro” novamente e receberá 8 ou 9. Isso não vai funcionar sempre, mas, se funcionou, talvez você se pergunte se eu tenho superpoderes. Eu não tenho. A verdade é que a maioria dos grandes modelos de linguagem está presa em uma rotina.
Open in Who Shared Issue with article?
See all 517 licensed articles (533 Total)