LLM工程师手册-深入浅出的LLM和RAG指南

一份整理了关于远程工作职位和资源的列表，涵盖了文章、视频、书籍、招聘网站、面试资料等内容。

一个Mamba的最小化实现。Mamba是CMU和普林斯顿的研究成功。这种SSM架构在语言建模上与Transformers不相上下，而且还能线性扩展，同时具有5倍的推理吞吐量。

一个通过命令行聊天用GPT-4在终端进行编程的工具，可以在终端与GPT-4一起进行编程。可以向GPT-4询问功能、改进或错误修复，aider将会应用建议的更改到源文件中。

一个精美的学术项目页面模版，基于 Astro 和 Tailwind CSS 构建，具有快速加载和响应式设计等特性。

AnglE是最新的文本嵌入模型，旨在优化文本嵌入，作为新一代的语义文本相似度方法，取得了新的最先进(SOTA)结果。它提供了预训练模型，包括语言模型(LLM)和数据集。

机器学习实战资料(Jupyter Notebooks) - 通过在Jupyter Notebooks中实验最先进的机器学习模型和算法进行学习。

Marco-o1是一个开源的大型推理模型，专注于解决现实世界的开放性问题。它基于Qwen2-7B-Instruct模型，集成了Chain-of-Thought微调、蒙特卡洛树搜索(MCTS)和反思机制。在MGSM数据集上表现优异，英文准确率提升6.17%，中文提升5.60%。

一款始终在线的AI助手，通过语音指令就能轻松完成各种任务，如查询信息、执行命令等，让工作和生活更加便捷高效。

一个开箱即用的图片添加水印工具，支持离线使用，完全在本地浏览器上处理。用户可以方便地为各种重要文件添加隐私保护水印，确保文件安全。

Flowise是一个基于LangChainJS构建的大语言模型工作流工具，用户可以通过简单的拖拽操作将API接入OpenAI等模型，快速构建和管理应用，特别适合前端程序员使用。

该开源项目名为Complish，是一款用于为CLI生成补全文件的工具，支持的 shell 包括 zsh 和 fish。它使用chatGPT API解析CLI的帮助页面并输出结构化信息，然后为特定的shell生成补全脚本。

RestGPT 是基于大型语言模型的自主代理的代码实现，通过 RESTful API 控制现实世界的应用程序。它旨在将语言模型与 API 连接起来，解决与规划、API 调用和响应解析相关的挑战。

Vuls 是一个适用于 Linux、FreeBSD、容器、WordPress、编程语言库、网络设备的无代理漏洞扫描程序，可用于内部网络和主机层安全检测。

英伟达发布的文档解析与内容提取微服务，能够处理大量复杂非结构化的PDF、Word等企业文档，提取文本、表格、图表和图像内容及元数据，支持并行化处理，提供OCR识别和向量化存储，适用于下游生成式AI应用

TPI-LLM是一款高性能的边缘设备语言模型推理系统，能够在资源有限的设备上运行大型语言模型，保护用户隐私，减少延迟。

Shortest是一个端到端的AI测试框架，利用Claude模型能力，通过自然语言编写可执行的单元测试，支持GitHub与2FA集成，提供安全认证方式。

GPUStack是一个开源的GPU集群管理器，专为运行大型语言模型(LLM)设计，支持多种硬件平台，提供轻量级的Python包和OpenAI兼容API，旨在简化用户和API密钥管理，并实时监控GPU性能和利用率。

该模型用于从第一人称视频中预测手部动作和交互热点，能够分析视频中的人机交互。