Mais maneira eficiente de colunas de intercalação no pandas

votos
0

Meu código calcula a distância euclidiana entre todos os pontos em um conjunto de amostras que eu tenho. O que eu quero saber é, em geral, desta forma o mais eficiente para realizar alguma operação entre todos os elementos em um conjunto e, em seguida, traçar-lhes, por exemplo, para fazer uma matriz de correlação.

O índice de amostras é usado para inicializar a trama de dados e fornecer etiquetas. Em seguida, as coordenadas 3D são fornecidos como tuplos em three_D_coordinate_tuple_list mas este poderia facilmente ser qualquer medição e, em seguida, a distância variável pode ser qualquer operação. Estou curioso sobre encontrar uma solução mais eficiente para fazer cada coluna e, em seguida, fundi-las novamente usando pandas ou numpy. Estou entupimento qualquer memória com a minha solução? Como posso fazer isso mais limpo?

def euclidean_distance_matrix_maker(three_D_coordinate_tuple_list, index_of_samples):
#list of tuples
#well_id or index as series or list

n=len(three_D_coordinate_tuple_list)
distance_matrix_df=pd.DataFrame(index_of_samples)    

for i in range(0, n):
    column=[]
    #iterates through all elemetns calculates distance vs this element
    for j in range(0, n):
        distance=euclidean_dist_threeD_for_tuples( three_D_coordinate_tuple_list[i],
                                         three_D_coordinate_tuple_list[j])
        column.append(distance)
    #adds euclidean distance to a list which overwrites old data frame then 
    #is appeneded with concat column wise to output matrix
    new_column=pd.DataFrame(column)
    distance_matrix_df=pd.concat([distance_matrix_df, new_column], axis=1)

distance_matrix_df=distance_matrix_df.set_index(distance_matrix_df.iloc[:,0])
distance_matrix_df=distance_matrix_df.iloc[:,1:]
distance_matrix_df.columns=distance_matrix_df.index
Publicado 14/01/2020 em 00:05
fonte usuário
Em outras línguas...                            


1 respostas

votos
2

Configuração

import numpy as np

x = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]])

scipy.spatial.distance_matrix

from scipy.spatial import distance_matrix

distance_matrix(x, x)

array([[ 0.        ,  5.19615242, 10.39230485],
       [ 5.19615242,  0.        ,  5.19615242],
       [10.39230485,  5.19615242,  0.        ]])

numpy

from scipy.spatial.distance import squareform

i, j = np.triu_indices(len(x), 1)
((x[i] - x[j]) ** 2).sum(-1) ** .5

array([ 5.19615242, 10.39230485,  5.19615242])

Que nós podemos fazer em uma forma quadrada com squareform

squareform(((x[i] - x[j]) ** 2).sum(-1) ** .5)

array([[ 0.        ,  5.19615242, 10.39230485],
       [ 5.19615242,  0.        ,  5.19615242],
       [10.39230485,  5.19615242,  0.        ]])
Respondeu 14/01/2020 em 00:29
fonte usuário

Cookies help us deliver our services. By using our services, you agree to our use of cookies. Learn more