为键入内存视图分配内存的build议方式是什么?

有关types化内存视图的Cython文档列出了分配给types化内存视图的三种方法:

  1. 从一个原始的C指针,
  2. np.ndarray
  3. cython.view.array

假设我没有从外部传递给我的cython函数的数据,而是想分配内存并将其作为np.ndarray返回,我select了哪些选项? 还假定该缓冲区的大小不是一个编译时常量,即我不能在堆栈上分配,但需要选项1的malloc

这3个选项因此会像这样:

 from libc.stdlib cimport malloc, free cimport numpy as np from cython cimport view np.import_array() def memview_malloc(int N): cdef int * m = <int *>malloc(N * sizeof(int)) cdef int[::1] b = <int[:N]>m free(<void *>m) def memview_ndarray(int N): cdef int[::1] b = np.empty(N, dtype=np.int32) def memview_cyarray(int N): cdef int[::1] b = view.array(shape=(N,), itemsize=sizeof(int), format="i") 

令我惊讶的是,在这三种情况下, Cython都会为内存分配生成相当多的代码 ,特别是对__Pyx_PyObject_to_MemoryviewSlice_dc_int的调用。 这表明(我可能在这里错了,我对Cython的内部工作的洞察是非常有限的),它首先创build一个Python对象,然后“投”到内存视图,这似乎不必要的开销。

一个简单的基准没有揭示出这三种方法之间的很大差异,其中2.以最快的速度稀释。

推荐三种方法中的哪一种? 还是有不同的更好的select?

后续问题:我想最后返回结果作为一个np.ndarray后,在该function的内存视图工作。 是一个types的内存视图的最佳select,或者我宁愿只是使用旧的缓冲区接口如下创build一个ndarray的第一个地方?

 cdef np.ndarray[DTYPE_t, ndim=1] b = np.empty(N, dtype=np.int32) 

在这里寻找答案。

基本思想是你想要cpython.array.arraycpython.array.clone不是 cython.array.* ):

 from cpython.array cimport array, clone # This type is what you want and can be cast to things of # the "double[:]" syntax, so no problems there cdef array[double] armv, templatemv templatemv = array('d') # This is fast armv = clone(templatemv, L, False) 

编辑

事实certificate,该线程的基准是垃圾。 这是我的时间:

 # cython: language_level=3 # cython: boundscheck=False # cython: wraparound=False import time import sys from cpython.array cimport array, clone from cython.view cimport array as cvarray from libc.stdlib cimport malloc, free import numpy as numpy cimport numpy as numpy cdef int loops def timefunc(name): def timedecorator(f): cdef int L, i print("Running", name) for L in [1, 10, 100, 1000, 10000, 100000, 1000000]: start = time.clock() f(L) end = time.clock() print(format((end-start) / loops * 1e6, "2f"), end=" ") sys.stdout.flush() print("μs") return timedecorator print() print("INITIALISATIONS") loops = 100000 @timefunc("cpython.array buffer") def _(int L): cdef int i cdef array[double] arr, template = array('d') for i in range(loops): arr = clone(template, L, False) # Prevents dead code elimination str(arr[0]) @timefunc("cpython.array memoryview") def _(int L): cdef int i cdef double[::1] arr cdef array template = array('d') for i in range(loops): arr = clone(template, L, False) # Prevents dead code elimination str(arr[0]) @timefunc("cpython.array raw C type") def _(int L): cdef int i cdef array arr, template = array('d') for i in range(loops): arr = clone(template, L, False) # Prevents dead code elimination str(arr[0]) @timefunc("numpy.empty_like memoryview") def _(int L): cdef int i cdef double[::1] arr template = numpy.empty((L,), dtype='double') for i in range(loops): arr = numpy.empty_like(template) # Prevents dead code elimination str(arr[0]) @timefunc("malloc") def _(int L): cdef int i cdef double* arrptr for i in range(loops): arrptr = <double*> malloc(sizeof(double) * L) free(arrptr) # Prevents dead code elimination str(arrptr[0]) @timefunc("malloc memoryview") def _(int L): cdef int i cdef double* arrptr cdef double[::1] arr for i in range(loops): arrptr = <double*> malloc(sizeof(double) * L) arr = <double[:L]>arrptr free(arrptr) # Prevents dead code elimination str(arr[0]) @timefunc("cvarray memoryview") def _(int L): cdef int i cdef double[::1] arr for i in range(loops): arr = cvarray((L,),sizeof(double),'d') # Prevents dead code elimination str(arr[0]) print() print("ITERATING") loops = 1000 @timefunc("cpython.array buffer") def _(int L): cdef int i cdef array[double] arr = clone(array('d'), L, False) cdef double d for i in range(loops): for i in range(L): d = arr[i] # Prevents dead-code elimination str(d) @timefunc("cpython.array memoryview") def _(int L): cdef int i cdef double[::1] arr = clone(array('d'), L, False) cdef double d for i in range(loops): for i in range(L): d = arr[i] # Prevents dead-code elimination str(d) @timefunc("cpython.array raw C type") def _(int L): cdef int i cdef array arr = clone(array('d'), L, False) cdef double d for i in range(loops): for i in range(L): d = arr[i] # Prevents dead-code elimination str(d) @timefunc("numpy.empty_like memoryview") def _(int L): cdef int i cdef double[::1] arr = numpy.empty((L,), dtype='double') cdef double d for i in range(loops): for i in range(L): d = arr[i] # Prevents dead-code elimination str(d) @timefunc("malloc") def _(int L): cdef int i cdef double* arrptr = <double*> malloc(sizeof(double) * L) cdef double d for i in range(loops): for i in range(L): d = arrptr[i] free(arrptr) # Prevents dead-code elimination str(d) @timefunc("malloc memoryview") def _(int L): cdef int i cdef double* arrptr = <double*> malloc(sizeof(double) * L) cdef double[::1] arr = <double[:L]>arrptr cdef double d for i in range(loops): for i in range(L): d = arr[i] free(arrptr) # Prevents dead-code elimination str(d) @timefunc("cvarray memoryview") def _(int L): cdef int i cdef double[::1] arr = cvarray((L,),sizeof(double),'d') cdef double d for i in range(loops): for i in range(L): d = arr[i] # Prevents dead-code elimination str(d) 

输出:

 INITIALISATIONS Running cpython.array buffer 0.100040 0.097140 0.133110 0.121820 0.131630 0.108420 0.112160 μs Running cpython.array memoryview 0.339480 0.333240 0.378790 0.445720 0.449800 0.414280 0.414060 μs Running cpython.array raw C type 0.048270 0.049250 0.069770 0.074140 0.076300 0.060980 0.060270 μs Running numpy.empty_like memoryview 1.006200 1.012160 1.128540 1.212350 1.250270 1.235710 1.241050 μs Running malloc 0.021850 0.022430 0.037240 0.046260 0.039570 0.043690 0.030720 μs Running malloc memoryview 1.640200 1.648000 1.681310 1.769610 1.755540 1.804950 1.758150 μs Running cvarray memoryview 1.332330 1.353910 1.358160 1.481150 1.517690 1.485600 1.490790 μs ITERATING Running cpython.array buffer 0.010000 0.027000 0.091000 0.669000 6.314000 64.389000 635.171000 μs Running cpython.array memoryview 0.013000 0.015000 0.058000 0.354000 3.186000 33.062000 338.300000 μs Running cpython.array raw C type 0.014000 0.146000 0.979000 9.501000 94.160000 916.073000 9287.079000 μs Running numpy.empty_like memoryview 0.042000 0.020000 0.057000 0.352000 3.193000 34.474000 333.089000 μs Running malloc 0.002000 0.004000 0.064000 0.367000 3.599000 32.712000 323.858000 μs Running malloc memoryview 0.019000 0.032000 0.070000 0.356000 3.194000 32.100000 327.929000 μs Running cvarray memoryview 0.014000 0.026000 0.063000 0.351000 3.209000 32.013000 327.890000 μs 

(“迭代”基准的原因在于,有些方法在这方面具有惊人的不同特征。)

按照初始化速度:

malloc :这是一个严酷的世界,但速度很快。 如果你需要分配很多东西,并且有无阻碍的迭代和索引performance,那就是这样。 但通常你是一个很好的赌注…

cpython.array raw C type :该死的,这是快速的。 这是安全的。 不幸的是,它通过Python来访问它的数据字段。 你可以通过使用一个奇妙的技巧来避免:

 arr.data.as_doubles[i] 

使其达到标准速度,同时消除安全性! 这使得这是一个很好的替代malloc ,基本上是一个漂亮的参考计数版本!

cpython.array buffer :进入malloc时间只有三到四倍,这看起来是一个很好的select。 不幸的是,它有相当大的开销(尽pipe与boundscheckwraparound指令相比很小)。 这意味着它只能真正与完全安全的变体竞争,但是它初始化中最快的。 你的select。

cpython.array memoryview :现在比malloc初始化要慢一个数量级。 这是一个耻辱,但它迭代速度一样快。 这是我会build议的标准解决scheme,除非boundscheckwraparound (在这种情况下, cpython.array buffer可能是一个更引人注目的折衷)。

其余的部分。 唯一值得一提的是numpy的,因为有很多有趣的方法附在对象上。 就是这样。

作为Veedrac答案的后续内容:请注意,使用python 2.7的cpython.arraymemoryview支持似乎导致了当前的内存泄漏。 这似乎是一个长期存在的问题,因为它在2012年11月的一篇文章中提到了cython-users邮件列表。运行Veedrac的Cython版本0.22与Python 2.7.6和Python 2.7.9的基准脚本导致当使用buffermemoryview接口初始化一个cpython.array时,会产生大的内存泄漏。 使用Python 3.4运行脚本时不会发生内存泄漏。 我已经向Cython开发者邮件列表提交了一个错误报告。