随笔周刊——第 10 期type
status
date
slug
summary
tags
category
icon
password
AI summary
🎶𝓦𝓮𝓮𝓴𝓵𝔂 𝓼𝓸𝓷𝓰 𝓹𝓲𝓬𝓴 🪗：
一首每天都想听一遍的歌~
论文分享
分享看到的几篇有关 LLM 在代码生成方面的幻觉问题。目前有很多研究关于 LLM 本身的幻觉问题，不论是内在原因，还是如何更好的缓解幻觉，但还未有相关研究细化的探讨代码生成上的幻觉问题。
Exploring and Evaluating Hallucinations in LLM-Powered Code Generation
- 问题陈述：论文指出大型语言模型（LLMs）在代码生成任务中虽然表现出色，但容易产生幻觉（hallucinations），即生成的代码可能偏离用户意图、存在内部不一致或与事实知识不符，这可能对软件的质量和可靠性造成风险。
- 研究目标：为了更好地理解和解决LLMs在代码生成中产生幻觉的问题，论文旨在：
- 分析LLMs生成的代码中的幻觉类型和分布。
- 评估不同LLMs在幻觉识别和缓解方面的能力。
- 提出改进LLMs代码生成性能的方法。
- 方法论：
- 通过主题分析，收集并分析了大量由不同LLMs生成的代码片段。
- 建立了一个包含5个主要类别和19种具体类型的幻觉分类体系。
- 对幻觉的分布进行了系统分析，探讨了不同LLMs之间的差异及其与代码正确性的相关性。
- 实验：
- 开发了HALLUCODE基准测试，用于评估LLMs在识别和缓解幻觉方面的性能。
- 对几种最先进的代码LLMs进行了幻觉识别和缓解实验。
- 发现现有的LLMs在识别和缓解幻觉方面面临挑战，尤其是在识别幻觉类型方面。
- 结果：
- 揭示了LLMs生成的代码中幻觉的复杂性和多样性。
- 证明了即使是先进的LLMs也难以有效识别和缓解幻觉。
- 提出了未来研究的方向，包括改进代码生成的评估方法、开发解决幻觉问题的技术和探索不同代码生成任务中幻觉的特征。
- 贡献：
- 提出了第一个全面分析LLMs在代码生成中可能产生幻觉的类型和分布的研究。
- 建立了一个用于评估代码LLMs幻觉识别能力的基准测试HALLUCODE。
- 通过实验评估了几种最先进的代码LLMs，并提出了改进的建议和未来研究方向。
相关研究：
知识小品
Fuzzing-101
一个详细的模糊测试教程，包含 10 个实际目标的实践练习，涵盖了从基础到高级的模糊测试技术。该课程适合希望学习模糊测试基础和发现现实软件项目中漏洞的人。教程内容包括使用 AFL++ 进行模糊测试的实践，以及如何使用不同的工具和技术来提高测试效率和发现漏洞的能力。每个练习都针对特定的软件进行了设计，并附带了相关的 CVE（Common Vulnerabilities and Exposures）信息，以及预计的完成时间和主要主题。此外，该课程还提供了一些资源，如相关文章和工具，以帮助学习者更好地理解和应用模糊测试技术。
awesome-japanese-nlp-resources
专用于 Python 库、预训练模型、词典和日语 NLP 语料库的精选资源列表
Git飞行规则(Flight Rules)
Git 飞行规则（Flight Rules）是一篇纲要，记录了在使用 Git 过程中可能遇到的各种问题以及如何一步一步解决这些问题的知识。这份指南受到了 NASA 宇航员飞行规则的启发，NASA 自 20 世纪 60 年代初以来，一直在记录宇航任务中的失误、灾难和解决方案。Git 飞行规则涵盖了编辑提交、暂存、未暂存内容、分支管理、Rebasing 和合并、Stash、杂项对象、跟踪文件、配置以及其他资源等多个方面。每个部分都详细说明了遇到特定问题时应该采取的步骤，例如如何修改最近的提交信息、如何从提交中移除文件、如何处理硬重置等。此外，还提供了一些 Git 配置的建议，如设置别名以简化命令操作，以及如何缓存仓库的用户名和密码。最后，文章还列出了一些其他资源，包括书籍、教程、脚本和工具以及 GUI 客户端，以帮助用户更好地学习和使用 Git。
随便看看
Prompt generation
OpenAI 在 playground 中推出了一个 prompt 自动优化功能，能够改进你的输入，使模型能够更加清晰的理解你的要求和完成任务。目前提示词已被公开，这就很方便了，通过全局 AI 插件等方式，创建一个新的快捷选项，使用 gpt-4o API 也能达到不错的效果~这样对于复杂的任务，当自己的表述不是很清晰时，便可以一键替换优化后的 prompt 了。
Linux in Minecraft
一个在 Minecraft 中模拟 Linux 操作系统的项目，旨在通过游戏化学习，让用户在玩游戏的同时学习 Linux 的基本概念和命令。用户可以通过在游戏内部编写命令来执行各种操作，例如创建文件、管理权限和安装软件包。Minecraft 的上限还在继续提高！
btop
功能更丰富，界面更好看的
top 替代版，这个看着真舒服啊，进程、网络、内存和硬盘都有相关信息显示，很极客 😁，好看就完事了。还支持自定义主题，很适合折腾~
FLUX 小红书 Model
现在小红书和抖音的许多美女照片和视频是 AI 生成的，即使可能被标注出疑似 AI 生成，但是不影响有流量，好看是标准 🤣。而且，随着模型的迭代，现在的直出图有些很难分辨出是否是 AI 生成了。下面是一个基于 FLUX 的 Lora model，自己本地跑还是比较吃配置的，因为 base model 比较大，建议云平台玩玩。
随便玩玩
小猿口算
最近小猿口算在抖音上是火了，一群大学生、研究生在里面体验小说中的开挂主人公的感觉，在小学生里面炸鱼。直接口算就罢了，大学生也是觉着不够快，开始编写脚本进行底层抓包，当小学生第一题还没开始，这边答案就已经提交了。现在小猿口算也是加上了大学生防沉迷系统啊，倒反天罡了，未成年有有未成年防沉迷，成年了还有防沉迷 😁。我也是进去拿了个荣耀王者称号，和大学生在巅峰对决 PK，还挺训练反应、手速的！看看这 Github 上恐怖的最近更新时间，只能说兴趣永远是第一生产力！
随便说说
周末学校举办了活动，有新的食堂开业以及学校“两弹一星”水塔点灯，白天也去参与了校友的集章活动，也是舔着脸要到了章，集齐了😗
点灯仪式有点短，如果倒计时后有烟花就好了😀
这周看论文以及组里开的新生会，确实发现自己对于论文不会进行批判，也就是发现 limitation，论文一般说的都是不关紧要的缺点，如果能够结合这个领域以及研究进展再结合提出的方法，找出一些 limitation 就好了，比如还有哪些能够改进的，怎么改进呢🤔，有没有更好的方法…
- 作者:huhu
- 链接:https://blog.mwwlzz.top/article/Weekly-10
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
