题目1: 利用 Jina AI 来部署开放域聊天模型 PLATO-Mini

[numb3r3]

题目简介： 使用 Jina 框架部署预训练模型 PLATO-Mini 实现开放域对话服务。

• 技术标签：深度学习，Python

• 任务难度：基础 ⭐️

• 详细描述：

  • 1）学习 Jina 开源MLOps框架的使用，熟悉3个基本概念 Document, Executor, Flow；详细文档参见 docs
  • 2）封装实现一个新的 Executor PlatoXLExecutor，在 __init__ 中实现paddle模型的加载; 实现一个新的 endpoint generate 完成对话任务；请参考文档 doc
  • 3）定义一个 Jina Flow，Flow中使用 PlatoXLExecutor对外提供 gRPC, HTTP 和 WebSocket 三种服务类型；请参考文档 doc
  • 4）完成一个简单的交互界面展示对话效果
  • 5）【可选】 实现 半精度 fp16 的推理，减少模型对GPU显存的占用，同时加速模型推理速度；

• 提交内容：

  • 提交方案 rfc 至仓库 rfcs 目录下；
  • 上传 PlatoXLExecutor 到 Jina Hub
  • 请将代码提交至仓库 src 目录下，并创建自己的文件夹。

• 合入标准

  • 按 rfc 设计文档格式，提交设计思路，并保证后期提交的内容与该技术方案保持一致；如果实际开发过程中需要对设计实现思路有更改，提前和mentor沟通确认通过后才可以被接受。
  • 针对提交的内容，在自定义 repo 下建立API功能实现、单测、API 文档对应的文件夹，并完成功能实现、单测、功能测试。
  • 支持 3 种不同的模型 unified_transformer-12L-cn, unified_transformer-12L-cn-luge 和 plato-mini

• 技术要求：

  • 熟练掌握Python, 了解AI部署

[SOVLOOKUP]

请问 【进阶】任务4）、5）是指完成后任务难度提升到进阶水平吗？

另外5）简单的交互界面，指的是命令行界面还是前端web界面？

[numb3r3]

可能“进阶”有些迷惑性，更多这里指的是“可选”，不是必须的。

关于界面，命令行也是可以接受的。

[bigOK666]

@numb3r3 请问提交作品的话是在src/ 文件夹下新建一个作品文件夹，比如platomini_AUTHOR么？我看main分支下的src文件夹里有了一个作品文件夹plato-mini，不知道再提交一个作品应该用什么命名规范？谢谢~

[numb3r3]

@shaomaiguanguan 使用 platomini_AUTHOR 吧