在 ToG 领域的业务系统,Huawei Atlas NPU 占领了非常大的市场份额,很多公司因各种各样的原因,也纷纷选择兼容 Atlas NPU 的方案。但是,Huawei Atlas NPU 价格并不便宜,很多研发团队在项目开始时通过某些渠道申请到华为的测试机资源,当完成研发测试后,便返还给对方,自己并没有华为的硬件平台。笔者遇到了一个问题,就是项目中使用到的 om 模型,推理出来的结果有问题,需要重新使用 ATC 工具对 onnx 模型进行重新转换。但是在我们研发的资源里面,并没有华为平台的硬件资源,没法使用华为公开的镜像运行 ATC 命令行工具。本文将介绍如何构建一个在非华为设备上运行 ATC 命令行工具的镜像。

阅读全文 »

随着全球化贸易的深入,跨境销售软件产品为企业带来了巨大机遇,但也伴随着复杂的法律、合规和地缘政治风险。中国企业为了规避各国贸易法律法规的风险,纷纷选择在新加坡成立公司实体,使用新加坡作为跳板,进入东南亚/美洲/欧洲的市场。这种经营的方式带来更为复杂的法律问题,作为企业经营者,需要面临更多的风险。恰好作者的朋友也遇到同样的问题,经过讨论觉得这是一个非常有意思的问题。因此作者以一个项目经理以及非法律从业人的身份和角度,与 Grok 经历了一场多轮问答的学习之旅,把我的疑惑和答案整理出来分享给大家。

阅读全文 »

OpenSourceCreateWorld.GenerateByQwen

大语言模型的快速发展以及性能的提升,为以前遥不可及的想法/功能提供了可能,同时很多都被实现出来,惊艳了世界。开源项目为世界提供了纷繁复杂的工具,极大加速了创新。对于个人开发者以及小团队,在大语言模型这个浪潮下的生存土壤,我认为就是微创新+快速迭代,不断尝试寻找机会,找到需求和买家。一些微创新和新想法来自于新工具/新事物的出现,快速组合,因此在开源世界上及时发现这些新项目,尤为重要。本文将长期更新,积累我在互联网世界中发现的好玩的/有意思的/性价比高的开源项目,同时也分享给大家。

阅读全文 »

Wan logo

AMD RX580 可以运行 Wan2.1 跑文生视频、图生视频吗?NVIDIA RTX4090 可以在大约4分钟内生成5秒的480p视频,这张矿卡需要跑多久?带着这些问题,我开始了这段探索之旅。

阅读全文 »

FLUX生成的图片

FLUX.1 是由 Black Forest Labs 开发的文本到图像生成模型,而它提供的 FLUX.1 [schnell]可以在比较低端的拥有 8GB 显存的 GPU 上运行。我调查了一下互联网上各路大神的部署方案,发现有一个 ComfyUI-Zluda 项目,支持使用 AMD RX580 显卡做部署推理。本文是此项目部署的实践,并最终成功运行并推理生成图片,特此将部署过程分享给大家。

阅读全文 »
0%