再问一下谁在GPU云上跑过inference

[heteroclinic]

再问一下谁在GPU云上跑过inference 哪怕最简单的例子。比如50words QA之类。请分享一下流程？
书打算花点时间下星期。

目前，我在工作场景知道的会配置GPU，使用shading language也就是CUDA类似的东西。十几年，不超过三个。
一个老中会画particles,另外一个中东人能把老中的活接起来，第三个就是书本人。


那么多突如其来的，似乎有造假嫌疑。
当然，这个版肯定有人会，就是期货待菇吧？

[minren]

https://cloud.google.com/compute/docs/t ... ference-t4
https://cloud.google.com/run/docs/tutor ... ith-ollama
https://cloud.google.com/run/docs/confi ... -practices
https://docs.modular.com/max/tutorials/ ... 20yourself
https://snowgoons.ro/posts/2024-01-02-i ... oad%20uses