Yangyehan&UndGround.

Yangyehan&UndGround.

接受科技的不完美,并参与到变化本身

在少量提示词下LLM格式化输出的对齐实践
在少量提示词下LLM格式化输出的对齐实践本篇文章主要是以一个例子进行实践,原理请参考:大语言模型的格式化输出原理思考 【大语言模型的格式化输出原理思考->构建输出解释器output Parsers - CSDN App】http://t.csdnimg.cn/sT5k2 本篇文章在原理的基础上,使用langchain总结了一套流程(在文章的末尾给出),同时构建了两个函数来优化在少量提示词的情况下,LLM输出不稳定的问题 一个解析函数,一个校验函数 Part 1:实体识别并格式化输出1234import osfrom dotenv import load_dotenv, find_d...
机器学习中的BP算法
机器学习中的BP算法 深度学习 — BP算法详解(误差反向传播算法)_输出层神经元阈值-CSDN博客 通过链式法则推到最终可以发现: 这里Wjk是输出层的权值,Vij是隐藏层的权值 这里可以再解释一下: *输出层的权值调整==n(学习率)(预期输出-实际输出)*实际输出(1-实际输出)输出层的权值** 隐藏层的权值调整 我们可以看到隐层的权值更新和输出层的误差和上一层的权值的乘积有关,这就是反向的来意,所有隐层的权值调整都和输出层的误差有关,也就是说所有权值的调整都来源与输出层的期望值和真实值的差有关,这就是反向传播的来历 这里用一副图来解释:
Embedding And Dense Retrieval
Embeddings And Dense Retrieval1234# cohere 是一个NLP的库,提供了embedding的函数# cohere 官网:https://cohere.com/# umap-learn,altair 是一个统计可视化库,在后面,我们会使用它来可视化embedding数据的二维空间位置# !pip install cohere umap-learn altair datasets 1234import cohereapi_key = 'pyRCp2X2I9sB07zO5050dG9qJ1tHinT1fYbSCBO9'co = co...
关于LLM_function_call的思考
在这篇文章里我们会 首先拆解:openai的function_call功能,搞清楚LLM调用function_call的底层原理 然后通过langchain来自定义function_call功能也就是制作一个可以调用tools的agent 当有多个tools时,拆解Agent的Route(路由)逻辑 先说结论:因为LLM每次输出的无状态性,所以我们把fucntion_call拆解为三个步骤: 判断调用哪个function 外部调用function返回结果 连同结果和原始prompt一起输入LLM,然后得到最终结果 这个说起来很抽象,而且真正上手写Agent的时候,其实会发现中间依...
关于LLM格式化输出的一点思考
输出解释器 :output Parsers下面我们介绍下输出解析(Output Parsers)的使用场景。假如我们现在有到一些商品的评价,想要对这些评价做一些处理从而可以更好的分析数据。比如,我们期望可以根据输入用户的商品评价,输出对应的 JOSN 数据,包含以下字段信息: gift:是否是把商品当作礼物, bool 类型;delivery_days:商品配送时间,没有的话返回 -1 ;price_value:提起有关价格相关的信息,返回一个列表; 我们期望LLM返回下面输出(JSON格式):12345{ "gift": False, "de...
24.1月随笔
1月5号:​ 我曾经在被帮助时有诚惶诚恐的不配得感,在与许多大佬的交谈中得知,原来贵人帮助你是因为他们能看见,你以后可能成为他们的贵人。 ​ 年轻人的发展的确需要很多良师益友的帮助,但其实你的第一个贵人应该是你自己! 1月26日:在最好的年代都有人破产 在经济最萧条的年代的都有人赚钱
23.12月随笔
12月5号:​ 强大旺盛的精神内核,在现实生活中得不到满足,找不到寄托,才会去丰富自己的能力圈 ​ 感官使人满足,身份让人认可,资源令人崇拜,能力会让人欣赏你 ​ 精神内核里面使命会让人有追随你的感觉,而价值观会让人产生深深的认同 ​ 精神内核外化,不断的强调自己是谁,要干什么,追求一个远大的目标,是什么凭什么能够实现,价值观清晰明确,什么是对什么是错,什么事做什么事不做,认同你的人爱你要死,不认同你的人骂得要死 ​ 一个人的好,到底好在哪里,感官,身份,资源,精神内核,能力 你不需要完美的规避掉多少问题,关键是你能多快找出问题,然后解决它! 12月22号:觅光,在觅不在光!​ 人生...
关于多轮对话的思考
关于如何自动从多伦对话中自动停止解决方法:维护状态机制!具体工作思路:设置一个状态机制来跟踪对话的进度和判断收集到的信息是否足够。 判断收集的信息是足够主要是通过判断对话中是否包含必须收集信息点位,如果包含必须收集点位则认为收集信息足够。我们通过判断必须信息收集点位来实时更新信息收集进度,这个信息收集的进度我们通过设置一个状态机制来显示。在问答的循环过程中,我们不断检查信息收集的进度和更新信息收集的进度的过程被称之为维护状态机制。 维护状态机制工作流程: 通过维护一个状态机制来跟踪对话的进度和收集到的信息是否足够的伪代码思路展示123456789101112131415161718...
Hexo_命令行
Create hexo123456789# Hexo 常见命令Hexo 是一个快速、简洁且高效的博客框架,这里列出了一些常用的 Hexo 命令。## 安装```bashnpm install -g hexo-cli Init blog123hexo init <folder>cd <folder>npm install Quick StartCreate a new post1$ hexo new "My New Post" More info: Writing Generate static files123$ hexo generat...
mac命令行
Mac 命令行 设置终端代理 12345678910111213141516171819202122232425## 设置终端代理## vi ~/.bash_profilefunction proxy_on() { //此处需要查看代理端口,clash是7890 export http_proxy=http://127.0.0.1:7890 export https_proxy=\$http_proxy echo -e "Terminal proxy on."}function proxy_off(){ uns...
avatar
yangyehan
witness me