AI备忘录

长风破浪会有时，直挂云帆济沧海

vLLM与Ollama模型推理部署对比

LLM 部署框架综合对比图：From: LLM Serving FrameworksOllama vs vLLMFrom: ollama与vllm的深度比...

  • AIHGF
  • 2025 年 05 月 24 日
  • 暂无评论
    •

    vLLM与Hugging Face模型推理对比

    离线推理( offline inference )场景中，比较关注最大化吞吐量并降低单次推理成本。传统方...

  • AIHGF
  • 2025 年 05 月 24 日
  • 暂无评论
    •

    OpenAI 构建 Agents 最佳实践

    https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-bui...

  • AIHGF
  • 2025 年 05 月 24 日
  • 暂无评论
    •

    Qwen3说明及其与Agent和RAG实现

    千问开源的 8 个最新模型,Qwen3，LLMs 系列.其中，Qwen3-235B-A22B， 大模型，...

  • AIHGF
  • 2025 年 05 月 15 日
  • 暂无评论
    •

    多模态RAG评测流程[转]

    出处：打破文本边界：如何进行多模态RAG评测在现代信息处理与检索系统中，如何有效地从这些包括了文本，图像，视频等多模态混合内容中，提取和利用信息是一个重要...

  • AIHGF
  • 2025 年 05 月 13 日
  • 暂无评论
    •

    AI Agent 与 AI Workflow 的区别[转]

    原文：一文讲透 AI Agent 与 AI Workflow 的区别和深度解析：从自动化到智能化的演进在...

  • AIHGF
  • 2025 年 02 月 10 日
  • 1 条评论
    •

    Ollama运行本地路径模型

    Github: https://github.com/ollama/ollamaModels: https://ollama.com/searchOlla...

  • AIHGF
  • 2025 年 02 月 04 日
  • 暂无评论
    •

    DeepSeek-R1 GPU硬件要求

    出处：GPU System Requirements for Running DeepSeek-R1De...

  • AIHGF
  • 2025 年 02 月 03 日
  • 暂无评论
    •

    LLM驱动的智能体如何引领行业变革及应用探索与未来展望[转]

    原文：AI Agent框架（LLM Agent）：LLM驱动的智能体如何引领行业变革，应用探索与未来展望1. AI Agent（LLM Agent）介绍1...

  • AIHGF
  • 2025 年 02 月 02 日
  • 暂无评论
    •

    Agent和Model的区别

    模型Agent知识范围知识仅限于其训练数据。通过工具连接外部系统，能够在模型自带的知识之外，实时、动态...

  • AIHGF
  • 2025 年 01 月 31 日
  • 暂无评论