新闻详情

新闻详情

首页 / 资讯中心 / 详情

开源诗词数据集poetry_dataset|Mac本地微调诗词大模型全方案,配套诗词检索站shi-ci.cn

发布时间:2026/9/9 1:06:33来源:尧图网络
开源诗词数据集poetry_dataset|Mac本地微调诗词大模型全方案,配套诗词检索站shi-ci.cn
前言想要搭建专属的古诗词生成AI模型很多人会被高性能显卡、高额云服务器成本劝退。今天分享一套面向Apple Silicon用户的完整开源方案poetry_dataset仓库内置完备诗词训练数据集、数据转换脚本、平仄校验工具依托MLX框架16G内存Mac设备就能完成Qwen系列模型LoRA微调离线运行、数据不上云。配套同步推荐自用诗词资源站shi-ci.cn无广告、海量古典诗词库既是扩充训练数据集的素材来源也可用于校验AI生成诗词的平仄、格律开发者与诗词爱好者均可使用。项目开源地址https://github.com/daichangya/poetry_dataset一、poetry_dataset 项目核心能力1. 标准化诗词训练数据集仓库内置清洗完毕的诗词对话语料适配MLX训练格式开箱即用无需复杂预处理原始语料poetry_train.json、poetry_val.jsonMLX对话训练集mlx_data/train.jsonl、mlx_data/valid.jsonl统一模板体裁创作主题 → 完整古诗词适配大模型指令微调逻辑2. 配套实用工具脚本仓库自带全链路数据处理、校验脚本覆盖数据集构建、格式转换、格律检测全流程build_dataset.py批量构建诗词训练数据集convert_to_mlx.py通用文本转换为MLX标准训练格式pingze_check.py古诗词平仄、句式简易校验工具3. Mac原生轻量化训练方案基于苹果官方MLX大模型库完全不需要CUDA环境支持4bit量化16GB内存Mac Air/Pro无压力运行支持Qwen2.5-1.5B/3B等主流开源底座模型一键LoRA微调、权重融合、诗词生成全套命令二、快速本地训练流程1. 环境初始化conda create-npoetrypython3.10-yconda activate poetry pipinstallmlx-lm pypinyin2. 拉取开源项目gitclone https://github.com/daichangya/poetry_datasetcdpoetry_dataset3. 模型量化与微调配置国内HF镜像加速下载底座模型执行LoRA训练exportHF_ENDPOINThttps://hf-mirror.com# 模型量化mlx_lm.convert --hf-path Qwen/Qwen2.5-1.5B-Instruct-q--mlx-path ./qwen-poetry-base# 启动微调mlx_lm.lora--model./qwen-poetry-base--train--data./mlx_data--iters10004. 诗词生成测试mlx_lm.generate--model./qwen-poetry-base --adapter-path ./adapters--prompt写一首咏荷七言绝句5. 格律校验python pingze_check.pyAI生成的诗词文本三、配套诗词站点shi-ci.cn在使用poetry_dataset做诗词AI开发时shi-ci.cn是不可或缺的辅助工具纯净无广告无需注册登录无弹窗付费内容专注诗词查阅海量诗词库收录数十万唐诗、宋词、元曲上万位古代诗人作品完整注释体系原文、拼音、译文、赏析、平仄标注一应俱全开发友好标准化诗词文本可批量导出用于扩充poetry_dataset训练集检索便捷支持按诗人、朝代、词牌、关键词全文检索搭配使用场景扩充训练数据从shi-ci.cn批量导出规范格律诗词通过build_dataset.py新增训练样本校验模型输出将AI生成诗词对照网站标准平仄修正语病、不合律问题创作灵感获取按四季、边塞、咏物、怀古等分类检索诗词制作Prompt素材库四、常见使用问题解决内存不足报错调低batch-size、减少微调层数开启4bit量化HuggingFace下载缓慢提前配置HF国内镜像地址生成诗词重复度过高降低训练迭代次数监控验证集loss避免过拟合平仄校验不准确以shi-ci.cn官方平仄标注为标准人工二次修正五、总结poetry_dataset大幅降低了诗词大模型本地微调门槛普通Mac用户也能独立训练专属诗词生成模型搭配资源全面、界面干净的shi-ci.cn形成「数据集训练-素材检索-格律校验」完整闭环。不管是AI开发者、古典诗词爱好者都可以体验这套开源方案。开源数据集项目https://github.com/daichangya/poetry_dataset诗词检索赏析站https://www.shi-ci.cn
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

厘米级精度的战术推演:极速建模在红蓝对抗中的态势预演价值技术白皮书方案 2026/9/9 21:43:07

厘米级精度的战术推演:极速建模在红蓝对抗中的态势预演价值技术白皮书方案

一、背景与概述在红蓝对抗、战术演训、阵地攻防、城市反恐与应急处突任务中,指挥员的决策高度依赖战场空间认知能力。传统战术推演往往建立在二维地图、低精度沙盘或事后建模系统之上,难以真实还原地形起伏、掩体分布、制高点、通视条件、盲区与机动路径…

阅读更多 →
从照片到沙盘:单镜头技术如何让非专业人员也能快速构建数字战场 2026/9/9 21:43:07

从照片到沙盘:单镜头技术如何让非专业人员也能快速构建数字战场

摘要 传统数字战场沙盘构建,长期依赖激光雷达、多目倾斜摄影阵列、专业测绘人员与复杂三维建模工序,外业采集周期长、设备携带笨重、门槛极高,难以适配应急突击、野外临时勘察、前沿阵地快速建模仿推演等场景。依托单镜头厘米级极速建模能力&…

阅读更多 →
ripgrep 如何用 -E/--encoding 与 BOM 自动嗅探搜索 UTF-16 等非 UTF-8 编码文件 2026/9/9 21:43:07

ripgrep 如何用 -E/--encoding 与 BOM 自动嗅探搜索 UTF-16 等非 UTF-8 编码文件

ripgrep 如何用 -E/--encoding 与 BOM 自动嗅探搜索 UTF-16 等非 UTF-8 编码文件 【免费下载链接】ripgrep ripgrep recursively searches directories for a regex pattern while respecting your gitignore 项目地址: https://gitcode.com/GitHub_Trending/ri/ripgrep …

阅读更多 →
如何在不依赖 sticky sessions 的情况下用 @socket.io/cluster-engine 横向扩展 Socket.IO 多进程 2026/9/9 21:43:07

如何在不依赖 sticky sessions 的情况下用 @socket.io/cluster-engine 横向扩展 Socket.IO 多进程

如何在不依赖 sticky sessions 的情况下用 socket.io/cluster-engine 横向扩展 Socket.IO 多进程 【免费下载链接】socket.io Bidirectional and low-latency communication for every platform 项目地址: https://gitcode.com/gh_mirrors/so/socket.io 当你把 Socket.I…

阅读更多 →
RustDesk Linux 安装包安装后如何配置并启动 rustdesk.service 系统服务? 2026/9/9 21:43:07

RustDesk Linux 安装包安装后如何配置并启动 rustdesk.service 系统服务?

RustDesk Linux 安装包安装后如何配置并启动 rustdesk.service 系统服务? 【免费下载链接】rustdesk An open-source remote desktop application designed for self-hosting, as an alternative to TeamViewer. 项目地址: https://gitcode.com/GitHub_Trending/r…

阅读更多 →
TanStack Query(React Query)Network Mode 全解析:online / always / offlineFirst 三种联网模式的实现原理与实战配置 2026/9/9 21:40:07

TanStack Query(React Query)Network Mode 全解析:online / always / offlineFirst 三种联网模式的实现原理与实战配置

TanStack Query(React Query)Network Mode 全解析:online / always / offlineFirst 三种联网模式的实现原理与实战配置 【免费下载链接】query 🤖 Powerful asynchronous state management, server-state utilities and data fetc…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞