Курс Python → Очистка данных с помощью pandas

Для начала, чтобы избавиться от строк с пустыми данными, необходимо использовать метод dropna() из библиотеки pandas. Этот метод позволяет удалить строки, содержащие хотя бы одно пустое значение. Например:


import pandas as pd

# создаем DataFrame с данными
data = {'A': [1, 2, None, 4],
        'B': [5, None, 7, 8]}
df = pd.DataFrame(data)

# удаляем строки с пустыми значениями
df_cleaned = df.dropna()

После этого этапа выполнения предыдущих шагов по очистке данных, следующим шагом является удаление пустых значений в столбцах. Для этого также можно использовать метод dropna(), но уже с параметром axis=1, который указывает на удаление столбцов с пустыми значениями. Например:


# удаляем столбцы с пустыми значениями
df_cleaned_columns = df.dropna(axis=1)

После выполнения этих шагов, в данных не останется пустых строк или столбцов, что позволит избежать неопределенности при обучении модели. Важно помнить, что удаление пустых данных должно проводиться с учетом специфики задачи и данных, чтобы не потерять важную информацию.

Важно также учитывать, что удаление пустых данных может привести к потере части информации, поэтому перед применением этого метода необходимо внимательно проанализировать данные и оценить возможные последствия.

Твои коллеги будут рады, поделись в