Campus AI vs Commercial AI: A Late-Breaking Study on How LLM As-A-Service Customizations Shape Trust and Usage Patterns
这项最新研究作为更大规模实地调查的前序研究，旨在激发讨论并完善研究方法，以探讨用户显著的“大语言模型即服务”（LLM-as-a-Service）定制化手段（例如界面和品牌变更）如何影响大学师生相对于 ChatGPT 等商业替代方案的信任度与使用模式。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，互联网就像一座巨大且繁忙的图书馆，其中最受欢迎的书籍是由一个超级聪明、无所不知的机器人编写的，它可以和你聊任何话题。这个机器人被称为“大语言模型”（LLM），它就像一本永不眠的神奇百科全书。但这里有个陷阱：这个机器人属于一家大型私有公司，当你与它交谈时，你是在借用它的工具。有时，学校和办公室会担心借用这些工具可能存在风险，就像让一个陌生人进屋帮你学习一样。因此，他们会问：“我们能不能打造一个属于自己的机器人版本，或者至少在上面印上我们自己的标志，让它感觉更安全、更像‘我们自己’？”这就是“人机交互”（Human-Computer Interaction）这门科学发挥作用的地方。它是研究人们在使用技术时的感受和行为的学科。一个重大的问题是：在聊天机器人上印上学校的标志，是否真的会让人们更信任它、使用方式发生变化，或者减少对隐私泄露的担忧？这有点像是在问，穿上球队的队服是否会让你的表现更好，或者自动售货机上贴上一个友好的笑脸是否会让人们更信任里面的零食。
这篇论文是一篇“期中研究”（late-breaking study），这是一个高级说法，意思是在正式比赛开始前，研究人员先分享他们的作战计划。他们正在一所德国大学设计一项大规模实验，以观察学生和教职员工对他们学校定制版机器人聊天机器人与著名的商业版 ChatGPT 的反应。研究人员不仅在观察机器人的“大脑”（代码），还在观察机器人的“皮肤”和“衣服”——比如学校的标志、屏幕上的颜色以及弹出的微型警告。他们怀疑，即使机器人的大脑完全相同，其外观也可能会误导我们的思维。例如，他们想知道看到大学的标志是否会让我们更信任这个机器人，或者是否会让我们在面对机器人编造事实（研究人员称之为“幻觉”）时变得不再那么谨慎。他们还想知道，显示一个关于计算机算力消耗的“燃料表”是否会让人们更多地考虑节能问题。
团队设计了一份调查问卷，向大约 250 人（学生、教师和办公室工作人员）询问他们对两种不同聊天机器人的感受。他们正在检验六个主要观点，即“假设”。首先，他们猜想人们会更信任学校的版本，因为它感觉像是来自一位朋友（大学）而非一个陌生人（大公司）。其次，他们认为如果你已经信任你的学校，你就会更加信任学校的机器人。第三，他们担心由于学校的机器人看起来非常正式，人们可能会停止核实其答案，即使它在胡编乱造。第四，他们怀疑人们实际上可能会注意到更少的编造事实，因为他们太忙于信任那个标志了。第五，他们相信人们会觉得数据在学校的机器人那里更安全。最后，他们希望通过展示一个“Token 计量器”（类似于 AI 的燃料表），能让人们更谨慎地使用机器人并思考环境问题。
目前，这篇论文还没有最终答案，因为大规模实验尚未结束。研究人员目前处于“前传”阶段，这意味着他们正在分享他们的地图，并征求反馈意见，以确保不会迷失方向。他们利用 Microsoft Azure 搭建了一个定制版的聊天机器人，其中他们关闭了一些“随机性”以使回答更具可预测性，添加了大学标志，并包含了一个显示剩余“Token”（文本块）数量的可视化条。他们还确保数据保留在学校的网络内部，不会被分享到外界。
研究人员谨慎地表示，他们目前还不确定自己的想法是否正确。他们暗示，这些视觉上的变化可能会改变人们的行为，但他们需要 2025 年春季调查的数据来证明这一点。他们并不是声称给 AI 涂上一个标志就能解决所有问题，但他们认为这是一个组织机构不应忽视的强大工具。如果他们的猜测是正确的，这意味着学校和公司需要非常仔细地考虑如何为他们的 AI 工具“穿衣”，因为这件外衣对人们使用机器人的方式影响之大，可能并不亚于机器人的大脑本身。在调查结果出来之前，这个故事仍在书写之中，但它承诺将告诉我们很多关于我们如何信任日常生活中数字助手的故事。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。