下载APP

一键直聊,随时沟通

关闭按钮
查看联系方式
使用微信扫一扫,即可立即获取

2小时前刷新

AI推理部署工程师

20-40W/年

2小时前刷新

AI推理部署工程师

20-40W/年

收藏职位

深圳陆兮科技有限公司

查看所有职位>

职位描述

微信扫码分享

举报

  • 算法工程师
  • AI推理部署工程师
  • 端侧推理优化
  • 大模型量化
  • 模型压缩
  • ONNXRuntime
  • llama.cpp
  • MNN
  • CoreML
  • TensorRT
  • NPU加速
  • GPU加速
  • KV-cache管理
  • 算子融合
  • 模型格式转换
  • 推理性能评测
  • Python
  • C++
  • Android端部署
  • iOS端部署
  • Linux部署

职位类别: 算法工程师

岗位职责:1.负责通用语言大模型与多模态模型的端侧推理优化与量化,在Android/iOS/Linux等平台稳定上线,达成延迟、内存、功耗与稳定性目标。2.从训练框架导出到目标引擎(如ONNXRuntimeMobile、llama.cpp/GGUF、MNN、sherpa-onnx等)并保证算子/图优化与精度对齐。3.负责端到端推理流水线,包括模型压缩、格式转换、算子/内核适配、自动化评测、崩溃与性能回溯。4.设计并维护针对不同硬件的加速方法,包括iOS/AppleSilicon(CoreML/ANE/Metal),Android(CPU/GPU/NPU),端侧芯片(如rk3588,jetson等)。5.建立性能与能耗基准体系:TTFT、吞吐(tok/s或QPS)、峰值/常驻内存、包体/模型体积、加载时延/冷启动与稳定性。6.跨团队协作:与算法侧共建量化校准与精度评估;与客户端/平台侧共同开发应用。任职要求:1.计算机科学、软件、人工智能、电子工程、数学等相关理工科专业,本科以上学历。2.扎实的Python/C/C++能力与工程素养,理解计算机体系结构与基础的芯片架构知识。3.熟悉至少一种端侧推理引擎与计算后端(如ONNXRuntimeMobile、MNN、CoreML、TensorRT-lite/DirectML、移动端GPU/NPUAPI等)。4.熟悉量化与推理优化,包括权重量化/激活量化/混合精度、校准集与误差分析、算子融合与内存规划、KV-cache管理等。5.具备自驱力、工程能力、沟通能力和团队协作精神。
查看更多
  • 年龄要求: 不限
  • 语言要求: 语言不限
AI推理部署工程师招聘负责人·熊女士头像

熊女士

聊一聊

2小时前活跃
2小时前活跃

查看联系方式

公司介绍

陆兮科技是中国第一家完全本土自研的通用大模型架构公司。我们的科研团队由海外归国教授、博导和博士科学家组成,创始人、首席技术官周芃博士是全球类脑算法领域领先科学家,曾荣获国际电气电子工程师协会电路与系统工程领域最高学术奖项“达灵顿奖”。陆兮科技致力于打破Transformer架构在上下文长度、算力消耗、能耗等方面的技术局限,独家提出全球最领先的『类脑架构』,开发出包括NLM大模型、行业基础设施大模型、端侧离线大模型在内的一系列普惠商用与民用产品。其中NLM大模型产品线广泛应用于政务服务、医疗、教育、法律、娱乐与智能终端等不同行业与设备场景。在G端和B端,陆兮科技已携手多家国央企客户,在医疗数智化诊断、水文与地理信息数智化处理、政府信息处理数智化转型、教育科技数智普惠等领域共同发力,打造了一系列低成本、低能耗、高效率、精准服务高质量发展的行业大模型底座。在C端,陆兮科技携手多家国内顶尖手持与穿戴智能设备商,成功打造可于百元机、低端微处理器架构和所有主流手机操作系统顺畅运行的离线端侧大模型,实现100%本地计算、100%本地存储、100%完全离线运行、0数据消耗、运存占用小于1G、3GB运存跑得动、无需全文检索即可判断使用意图等里程碑突破、为『人工智能+』时代实现大模型人人可用、普惠人人的目标添砖加瓦。陆兮科技致力于将大模型放进小设备,让人人都能用上安全、隐私的本地大语言模型。如果你渴望探索人工智能的无限可能,并为此投身全新的技术创新,陆兮团队热切期待你的加入!
查看更多

智通直聘安全提醒

求职过程中安全很重要。如您在求职面试的过程中发现用人单位或其招聘人员存在违法违规行为,包括但
不限于扣押您的身份证或其他证件、 以任何名义要求您出资或交钱、发布虚假招聘信息   请立即举报

了解更多职场安全防范知识

您可能感兴趣的职位

查看更多职位
深圳
搜索
求职安全小提醒
亲爱的求职者:
欢迎您登录智通直聘!今天是好日子,祝您找到心仪的岗位,展现自己的才华与价值!智通人才的专业客服已经对 企业资质和岗位做了严格的审核,保护您的求职权益。 同时我们诚邀您加入我们求职权益保障计划,一起提高职场防骗能力,帮助更多的求职者安全求职。
如您或者您的朋友在求职的过程中发现如下情况,您可随时向智通客服咨询,我们会第一时间跟进处理并给您反馈:

招聘岗位要求低薪资高;

过多索取个人隐私信息;

选择在非公司场所面试;

入职过程收取各项费用;

入职之后交费参加培训。

“把爱和希望传递给每一个职业人”是智通直聘的使命,我们希望和您一起,在求职面试过程中,帮您练就火眼金睛,我们一起重点关注以下事项:
看企业: 通过多种渠道 核实招聘方的真实性, 如查询公司官网、工商信息等。
看岗位: 对于那些 待遇过于优厚却要求简单的职位要保持警惕, 仔细核实公司信息和职位真实性。
看面试: 选择正规的办公场所或公共场所进行面试, 避免前往隐蔽场所面试。
看合同: 在签署任何合同或协议前, 务必仔细阅读条款,确保自身权益得到保障。
以此多维度评估企业,安全求职。
感谢您选择智通直聘,您的信任托付,是我们努力做好服务的动力,我们一起努力,实现职业价值,创造人生美好!
智通直聘
全国客服热线: 400-863-5156