计算两个multidimensional array之间的相关系数

我有两个NXTMXT形状的arrays。 我想计算在每一对可能的行nm (分别从NM )之间的T间的相关系数。

什么是最快,最pythonic方式做到这一点? (在NM循环似乎对我来说既不快也不pythonic)。我期待的答案涉及numpy和/或scipy 。 现在我的数组numpy array ,但我打算将它们转换为不同的types。

我期待我的输出是NXM形状的arrays。

NB当我说“相关系数”时,我的意思是Pearson乘积矩相关系数 。

这里有一些事情要注意:

  • numpy函数correlate要求input数组是一维的。
  • numpy函数corrcoef接受二维数组,但它们必须具有相同的形状。
  • scipy.stats函数pearsonr要求input数组是一维的。

2 Solutions collect form web for “计算两个multidimensional array之间的相关系数”

两个二维数组之间的相关性(默认“有效”情况):

你可以简单地使用像这样的matrix乘法np.dot

 out = np.dot(arr_one,arr_two.T) 

与两个input数组的每个成对行组合(row1,row2)之间的默认"valid"情况的相关性将对应于每个(row1,row2)位置处的相乘结果。


两个二维数组的行向相关系数计算:

 def corr2_coeff(A,B): # Rowwise mean of input arrays & subtract from input arrays themeselves A_mA = A - A.mean(1)[:,None] B_mB = B - B.mean(1)[:,None] # Sum of squares across rows ssA = (A_mA**2).sum(1); ssB = (B_mB**2).sum(1); # Finally get corr coeff return np.dot(A_mA,B_mB.T)/np.sqrt(np.dot(ssA[:,None],ssB[None])) 

这是基于这个解决schemeHow to apply corr2 functions in Multidimentional arrays in MATLAB

标杆

本节将运行时性能与针对其他答案中列出的基于generate_correlation_map &loopy pearsonr的方法的build议方法进行比较。 (从functiontest_generate_correlation_map()而在它的末尾没有值正确性validation码)。 请注意,所提出的方法的时间安排还包括在开始时检查两个input数组中相同的列数,如在其他答案中所做的那样。 运行时间在下面列出。

情况1:

 In [106]: A = np.random.rand(1000,100) In [107]: B = np.random.rand(1000,100) In [108]: %timeit corr2_coeff(A,B) 100 loops, best of 3: 15 ms per loop In [109]: %timeit generate_correlation_map(A, B) 100 loops, best of 3: 19.6 ms per loop 

案例#2:

 In [110]: A = np.random.rand(5000,100) In [111]: B = np.random.rand(5000,100) In [112]: %timeit corr2_coeff(A,B) 1 loops, best of 3: 368 ms per loop In [113]: %timeit generate_correlation_map(A, B) 1 loops, best of 3: 493 ms per loop 

案例#3:

 In [114]: A = np.random.rand(10000,10) In [115]: B = np.random.rand(10000,10) In [116]: %timeit corr2_coeff(A,B) 1 loops, best of 3: 1.29 s per loop In [117]: %timeit generate_correlation_map(A, B) 1 loops, best of 3: 1.83 s per loop 

另一个pearsonr based方法似乎太慢了,但是这里是一个小数据量的运行时间 –

 In [118]: A = np.random.rand(1000,100) In [119]: B = np.random.rand(1000,100) In [120]: %timeit corr2_coeff(A,B) 100 loops, best of 3: 15.3 ms per loop In [121]: %timeit generate_correlation_map(A, B) 100 loops, best of 3: 19.7 ms per loop In [122]: %timeit pearsonr_based(A,B) 1 loops, best of 3: 33 s per loop 

@Divakar为计算未缩放的关联提供了一个很好的select,这正是我最初要求的。

为了计算相关系数,需要多一点:

 import numpy as np def generate_correlation_map(x, y): """Correlate each n with each m. Parameters ---------- x : np.array Shape NX T. y : np.array Shape MX T. Returns ------- np.array NXM array in which each element is a correlation coefficient. """ mu_x = x.mean(1) mu_y = y.mean(1) n = x.shape[1] if n != y.shape[1]: raise ValueError('x and y must ' + 'have the same number of timepoints.') s_x = x.std(1, ddof=n - 1) s_y = y.std(1, ddof=n - 1) cov = np.dot(x, yT) - n * np.dot(mu_x[:, np.newaxis], mu_y[np.newaxis, :]) return cov / np.dot(s_x[:, np.newaxis], s_y[np.newaxis, :]) 

这是对这个函数的testing,它通过:

 from scipy.stats import pearsonr def test_generate_correlation_map(): x = np.random.rand(10, 10) y = np.random.rand(20, 10) desired = np.empty((10, 20)) for n in range(x.shape[0]): for m in range(y.shape[0]): desired[n, m] = pearsonr(x[n, :], y[m, :])[0] actual = generate_correlation_map(x, y) np.testing.assert_array_almost_equal(actual, desired) 
  • 防止matplotlib中imshow的消除锯齿
  • 如何在scipy / matplotlib中绘制和注释层次聚类树状图
  • Python中的均方根误差
  • 使用scipy计算matrix排名
  • Scipy稀疏...数组?
  • Python中的多重线性回归
  • 浓缩距离matrix如何工作? (pdist)
  • 重新采样表示图像的numpy数组
  • numpy.fft和scipy.fftpack有什么区别?
  • 如何规范一个NumPy数组在一定的范围内?
  • 将MATLAB代码转换为Python的工具