Курс Python → Удаление дубликатов в pandas

Для удаления дублирующихся данных в Python можно воспользоваться методом drop_duplicates() из библиотеки pandas. Этот метод позволяет удалить строки с дублирующимися значениями в указанных столбцах. Например, если у вас есть DataFrame df и вы хотите удалить дубликаты в столбце ‘name’, то код будет выглядеть следующим образом:


df.drop_duplicates(subset=['name'], keep='first', inplace=True)

В данном примере мы указали столбец ‘name’ как ключ для поиска дубликатов. Аргумент keep=’first’ означает, что будет оставлен первый встреченный дубликат, а остальные будут удалены. Если вы хотите сохранить последний дубликат, замените ‘first’ на ‘last’.

Если вы хотите удалить дубликаты по всем столбцам, то просто укажите аргумент subset=None:


df.drop_duplicates(subset=None, keep='first', inplace=True)

После выполнения этой операции DataFrame будет содержать только уникальные строки. Удаление дубликатов помогает упростить анализ данных и избежать искажений в результатах. Помните, что перед удалением дубликатов всегда стоит проанализировать данные и убедиться, что удаление не повредит целостности информации.

Твои коллеги будут рады, поделись в

Автор урока

Дмитрий Комаровский
Дмитрий Комаровский

Автоматизация процессов
в КраснодарБанки.ру

Другие уроки курса "Python"

  1. Python Translator: создание локальных переводчиков
  2. Замена текста в Python
  3. Работа с прокси в Python
  4. Автоматизация действий с Pyautogui
  5. Измерение времени выполнения кода с использованием time
  6. Сортировка элементов в Python
  7. Модуль os: работа с файлами и папками
  8. Удаление элемента из списка в Python
  9. Возврат нескольких значений из функции
  10. Python: Фильтрация списков с помощью filter()
  11. Вывод переменной и строки в Python
  12. Работа с очередями в Python
  13. Проверка однородности элементов списка
  14. Передача неизвестных аргументов в Python.
  15. Избегайте пустого списка
  16. Красивый вывод списка
  17. Путь к интерпретатору Python
  18. Методы и функции в Python
  19. Удаление ключей из словаря
  20. Аннотации типов в Python
  21. Оптимизация параметров в Python
  22. Отслеживание выполнения программы с библиотекой tqdm
  23. Метод __getitem__ в Python
  24. Переворот последовательности
  25. Работа с f-строками 2.0
  26. Метод title() в Python
  27. Сортировка элементов с OrderedDict
  28. Создание новых функций с помощью functools.partial
  29. Множественные конструкторы в Python
  30. Структуры данных в Python
  31. Функция all() в Python
  32. Строковое представление объектов
  33. Генераторы в Python
  34. Работа с парами ключ-значение
  35. Вычисление натуральных логарифмов в NumPy
  36. Область видимости переменных
  37. Управление IP-адресами через прокси
  38. Получение текущей даты и времени с помощью datetime
  39. Извлечение новостей с помощью newspaper3k
  40. Структура данных deque в Python
  41. Получение ID текущего процесса
  42. Работа с модулем os в Python
  43. Чтение и запись TOML-конфигов
  44. Python Метод sleep() времени
  45. Операции с массивами в NumPy
  46. Измерение времени выполнения в Python
  47. Вызов внешних программ в Python с помощью sh

Marketello читают маркетологи из крутых компаний