Bonjour, j’ai tenté de faire fonctionner Whisper.cpp en utilisant Vulkan sur un RPi5 mais quand je tente de l’initialiser avec un modèle, j’ai ce message :
[Inferior 1 (process 26172) detached]
terminate called after throwing an instance of ‹ std::runtime_error ›
what(): Shared memory size too small for matrix multiplication.
Aborted (core dumped)
appremment le GPU du RPi5 ne dispose que de 16 Ko de mémoire partagée ce qui est insuffisant, du coup je suis obligé d’utiliser le mode CPU qui est plus lent…
Si quelqu’un a une solution ?
merci
Regarder la config du RPi, je ne sais pas si c’est le cas encore avec les RPi 5 mais tu peux contrôler la valeur de la mémoire GPU, sur les vieux RPi, ont parlait de 64~128Mo suggéré, mais dans une config particulière, il peut réduire de beaucoup cette valeur ou elle a été mal défini (je crois que si tu marque que « 16 », il sera en KO, il faut allors indiquer « 16M » pour indiquer d’utiliser 16 MO, mais avec RPi 5, passe a 128M facilement).
Si c’est la mémoire vive, alors peux-être que tu utilise une limitation, par exemple Java il faut lui définir les valeur de mémoire a utiliser sinon c’est trop bas pour exécuter un serveur par exemple. Avec C++, surement que ton compilateur rencontre ce même genre de limitation.
C’est une mimitation matériel, il s’agit d’une limite physique liée à l’architecture de son GPU (VideoCore VII) et à son pilote Mesa, dommage…