Как перебирать свой массив с помощю numba на cuda в питоне?

Question

[Dayanc Kakamyradov]

Можете как нибудь помочь? хотел перебирать свой массив а не генерированную на numda с помощю cuda.jit но появляется ошибка на понижение

вот код

from __future__ import division
from numba import cuda
import numpy as np
import math

lst = np.array(['1','2','3','4','5','6','7','8','9','a','b','c','d','e','f'],dtype='<U1')

array_cuda = cuda.to_device(lst)

@cuda.jit()
def my_kernel(array):
    for i in range(len(array)):
        print(array[i])
   
if __name__ == '__main__':
    threadsperblock = 128
    blockspergrid = math.ceil(lst.shape[0] / threadsperblock)
    my_kernel[blockspergrid, threadsperblock](array_cuda)

ошибка

Traceback (most recent call last):
File "C:\Python36\lib\site-packages\numba\core\errors.py", line 744, in new_error_context
yield
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 230, in lower_block
self.lower_inst(inst)
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 378, in lower_inst
self.lower_print(inst)
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 734, in lower_print
impl(self.builder, argvals)
File "C:\Python36\lib\site-packages\numba\core\base.py", line 1165, in __call__
res = self._imp(self._context, builder, self._sig, args, loc=loc)
File "C:\Python36\lib\site-packages\numba\core\base.py", line 1195, in wrapper
return fn(*args, **kwargs)
File "C:\Python36\lib\site-packages\numba\cuda\printimpl.py", line 66, in print_varargs
argfmt, argvals = print_item(argtype, context, builder, argval)
File "C:\Python36\lib\functools.py", line 807, in wrapper
return dispatch(args[0].__class__)(*args, **kw)
File "C:\Python36\lib\site-packages\numba\cuda\printimpl.py", line 23, in print_item
% (ty,))
NotImplementedError: printing unimplemented for values of type [unichr x 1]

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
File "cudaProc.py", line 18, in 
my_kernel[blockspergrid, threadsperblock](array_cuda)
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 822, in __call__
self.stream, self.sharedmem)
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 964, in call
kernel = _dispatcher.Dispatcher._cuda_call(self, *args)
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 972, in _compile_for_args
return self.compile(tuple(argtypes))
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 1094, in compile
**self.targetoptions)
File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
return func(*args, **kwargs)
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 511, in __init__
inline=inline)
File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
return func(*args, **kwargs)
File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 53, in compile_cuda
locals={})
File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 606, in compile_extra
return pipeline.compile_extra(func)
File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 353, in compile_extra
return self._compile_bytecode()
File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 415, in _compile_bytecode
return self._compile_core()
File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 395, in _compile_core
raise e
File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 386, in _compile_core
pm.run(self.state)
File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 339, in run
raise patched_exception
File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 330, in run
self._runPass(idx, pass_inst, state)
File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
return func(*args, **kwargs)
File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 289, in _runPass
mutated |= check(pss.run_pass, internal_state)
File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 262, in check
mangled = func(compiler_state)
File "C:\Python36\lib\site-packages\numba\core\typed_passes.py", line 463, in run_pass
NativeLowering().run_pass(state)
File "C:\Python36\lib\site-packages\numba\core\typed_passes.py", line 384, in run_pass
lower.lower()
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 136, in lower
self.lower_normal_function(self.fndesc)
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 190, in lower_normal_function
entry_block_tail = self.lower_function_body()
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 216, in lower_function_body
self.lower_block(block)
File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 230, in lower_block
self.lower_inst(inst)
File "C:\Python36\lib\contextlib.py", line 99, in __exit__
self.gen.throw(type, value, traceback)
File "C:\Python36\lib\site-packages\numba\core\errors.py", line 751, in new_error_context
raise newerr.with_traceback(tb)
numba.core.errors.LoweringError: Failed in nopython mode pipeline (step: nopython mode backend)
←[1m←[1mprinting unimplemented for values of type [unichr x 1]
←[1m
File "cudaProc.py", line 13:←[0m
←[1mdef my_kernel(array):

for i in range(len(array)):
←[1m print(array[i])
←[0m ←[1m^←[0m←[0m
←[0m
←[0m←[1mDuring: lowering "print($18.5)" at cudaProc.py (13)←[0m

Comments

[Михаил Р.]

Можете как нибудь помочь?

Показывайте код - поможем, либо на фриланс.

[Dayanc Kakamyradov]

вот код

from __future__ import division
from numba import cuda
import numpy as np
import math

lst = np.array(['1','2','3','4','5','6','7','8','9','a','b','c','d','e','f'],dtype='<U1')

array_cuda = cuda.to_device(lst)

@cuda.jit()
def my_kernel(array):
    for i in range(len(array)):
        print(array[i])
   
if __name__ == '__main__':
    threadsperblock = 128
    blockspergrid = math.ceil(lst.shape[0] / threadsperblock)
    my_kernel[blockspergrid, threadsperblock](array_cuda)

вот

[Dayanc Kakamyradov]

Dayanc Kakamyradov, и вот ошибка которую он выводит

Ошибка

Traceback (most recent call last):
  File "C:\Python36\lib\site-packages\numba\core\errors.py", line 744, in new_error_context
    yield
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 230, in lower_block
    self.lower_inst(inst)
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 378, in lower_inst
    self.lower_print(inst)
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 734, in lower_print
    impl(self.builder, argvals)
  File "C:\Python36\lib\site-packages\numba\core\base.py", line 1165, in __call__
    res = self._imp(self._context, builder, self._sig, args, loc=loc)
  File "C:\Python36\lib\site-packages\numba\core\base.py", line 1195, in wrapper
    return fn(*args, **kwargs)
  File "C:\Python36\lib\site-packages\numba\cuda\printimpl.py", line 66, in print_varargs
    argfmt, argvals = print_item(argtype, context, builder, argval)
  File "C:\Python36\lib\functools.py", line 807, in wrapper
    return dispatch(args[0].__class__)(*args, **kw)
  File "C:\Python36\lib\site-packages\numba\cuda\printimpl.py", line 23, in print_item
    % (ty,))
NotImplementedError: printing unimplemented for values of type [unichr x 1]

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
  File "cudaProc.py", line 18, in <module>
    my_kernel[blockspergrid, threadsperblock](array_cuda)
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 822, in __call__
    self.stream, self.sharedmem)
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 964, in call
    kernel = _dispatcher.Dispatcher._cuda_call(self, *args)
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 972, in _compile_for_args
    return self.compile(tuple(argtypes))
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 1094, in compile
    **self.targetoptions)
  File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
    return func(*args, **kwargs)
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 511, in __init__
    inline=inline)
  File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
    return func(*args, **kwargs)
  File "C:\Python36\lib\site-packages\numba\cuda\compiler.py", line 53, in compile_cuda
    locals={})
  File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 606, in compile_extra
    return pipeline.compile_extra(func)
  File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 353, in compile_extra
    return self._compile_bytecode()
  File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 415, in _compile_bytecode
    return self._compile_core()
  File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 395, in _compile_core
    raise e
  File "C:\Python36\lib\site-packages\numba\core\compiler.py", line 386, in _compile_core
    pm.run(self.state)
  File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 339, in run
    raise patched_exception
  File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 330, in run
    self._runPass(idx, pass_inst, state)
  File "C:\Python36\lib\site-packages\numba\core\compiler_lock.py", line 35, in _acquire_compile_lock
    return func(*args, **kwargs)
  File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 289, in _runPass
    mutated |= check(pss.run_pass, internal_state)
  File "C:\Python36\lib\site-packages\numba\core\compiler_machinery.py", line 262, in check
    mangled = func(compiler_state)
  File "C:\Python36\lib\site-packages\numba\core\typed_passes.py", line 463, in run_pass
    NativeLowering().run_pass(state)
  File "C:\Python36\lib\site-packages\numba\core\typed_passes.py", line 384, in run_pass
    lower.lower()
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 136, in lower
    self.lower_normal_function(self.fndesc)
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 190, in lower_normal_function
    entry_block_tail = self.lower_function_body()
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 216, in lower_function_body
    self.lower_block(block)
  File "C:\Python36\lib\site-packages\numba\core\lowering.py", line 230, in lower_block
    self.lower_inst(inst)
  File "C:\Python36\lib\contextlib.py", line 99, in __exit__
    self.gen.throw(type, value, traceback)
  File "C:\Python36\lib\site-packages\numba\core\errors.py", line 751, in new_error_context
    raise newerr.with_traceback(tb)
numba.core.errors.LoweringError: Failed in nopython mode pipeline (step: nopython mode backend)
←[1m←[1mprinting unimplemented for values of type [unichr x 1]
←[1m
File "cudaProc.py", line 13:←[0m
←[1mdef my_kernel(array):
    <source elided>
    for i in range(len(array)):
←[1m        print(array[i])
←[0m        ←[1m^←[0m←[0m
←[0m
←[0m←[1mDuring: lowering "print($18.5)" at cudaProc.py (13)←[0m

[mayton2019]

Что-то типом char ему не нравится. А попробуй заменить на массив чисел.
lst = np.array([1,2,3,4.....])

[Dayanc Kakamyradov]

mayton2019, нужны и буквы тоже

[mayton2019]

Dayanc Kakamyradov, дружище. Во первых попробуй числа. Просто чтобы проверить.
Нужно ошибку как-то последовательно как волка загнать в угол.

А во вторых мне кажется что Cuda - это не то место где работают с буквами.

[Dayanc Kakamyradov]

mayton2019, да если убрать букву то ошибка исчезает

А во вторых мне кажется что Cuda - это не то место где работают с буквами.

блин а тогда чем можно работать чтобы подключить видюху к скрипту
уже как месяц или два мучаюсь с подключением видюхи нужна большая мощность на питоне для этого скрипта.

[Алан Гибизов]

Dayanc Kakamyradov, код и ошибку надо помещать в тело вопроса. Ошибку показывать как код (оборачивать тэгом code). Длинные портянки прятать под спойлер.

Поправил тебе, так делай.

[mayton2019]

блин а тогда чем можно работать чтобы подключить видюху к скрипту
уже как месяц или два мучаюсь с подключением видюхи нужна большая
мощность на питоне для этого скрипта.

Очень эмоциональный пост. И в то-же время у нас нет никакой другой информации.

Я не программировал Cuda. И мне кажется что мы должны начать с какой-то предыстории.
У тебя есть готовый код который работает на основном процессоре. Есть куча библиотеки.
Numpy, Numba. Вот мое инженерное любопытство хочет узнать как ты дошел до этой идеи.

Потому что очень много людей приходят в хабр и хотят птичьего молока а потом оказывается
что такого сорта птиц нету и вообще они хотели не молока а сметаны.

[Dayanc Kakamyradov]

mayton2019, на основной процессоре код работает на ура но очень медленно нужно было както видеокарту подключить не зря же купил gtx 750 ti у него где 650-690 ядер cuda нужно было их както использовать блин не ужели это невозможно

[Dayanc Kakamyradov]

Алан Гибизов, спасибо дружище

[mayton2019]

Dayanc Kakamyradov, что твой код делает? Перебирает символьные массивы?

[Dayanc Kakamyradov]

mayton2019, да дольжен был перебирать

[mayton2019]

Dayanc Kakamyradov, ну ты в курсе что на видеокартах In-Memory db никто не строит? Архитектура - другая.
Некоторые вещи с памятью работают не так эффективно как с основным CPU.

Ты можешь получить какой-то профит в параллелизме и в математике но твое ТЕХНИЧЕСКОЕ ЗАДАНИЕ
должно быть применимо по отношению к тем кейсам для которых Cuda создавалась.
Рендеринг. Численные методы. Поиски SHA2. И прочее. Передал небольшой объем входных
данных. Загрузил все 600 ядер обработкой. И получил результат.

Я не уверен пока что твоя задача - подходит под подобные сценарии. А если она не подходит
то все чем ты занимаешся - это трата времени зря.

[Dayanc Kakamyradov]

ну скажем cuda тут не подходит но можно же както увеличить скорость этого скрипта мултипроцессорность не подходит не дает ни каких резултатов

[mayton2019]

Dayanc Kakamyradov, давай так. На вход приходит такое

Input:

'1','2','3','4','5','6','7','8','9','a','b','c','d','e','f'

Что должно быть на выходе?

[Dayanc Kakamyradov]

mayton2019, на выходе дольжно быть сгенерирована 16 символов из этого списка не дольжно быть рандомным

[mayton2019]

Dayanc Kakamyradov, и ради этой задачи тебе нужна Cuda??

[Dayanc Kakamyradov]

mayton2019, да без этого слишком медленно генерирует где-то 10тысч за 2-3 секунды нужно где-то 100тыс или 500тыс можно это как-то реализовать

[mayton2019]

Dayanc Kakamyradov, мне кажется если я возьму С++ то я тебе нагенерирую и мильен в секунду. И больше.

Был-бы у тебя процесс приемник который бы успевал этот поток глотать. Вот в чем штука....

P.S. И Cuda выглядит пока ненужным пятым колесом.

[Dayanc Kakamyradov]

mayton2019, можеш дать какой-то совет как это можно сделать

[mayton2019]

Dayanc Kakamyradov, создай новый вопрос в хабре только без всякой куды. Мы его решим as is.
И если уже перформанса не будет хватать тогда можно рассматривать графические процессоры.