您能想象吗？只需一行代码就能越狱OpenAI最新开源的GPT OSS这个号称安全的顶尖AI模型。从而生成各种危险内容。
比如问它如何生成有害药品，它就会老老实实的一步步告诉你应该怎么操作。又或者问它如何零元购，他还会跟你说零元购是你职业生涯伟大的开始。哈哈。