Курс Python → Удаление дубликатов в pandas

Для удаления дублирующихся данных в Python можно воспользоваться методом drop_duplicates() из библиотеки pandas. Этот метод позволяет удалить строки с дублирующимися значениями в указанных столбцах. Например, если у вас есть DataFrame df и вы хотите удалить дубликаты в столбце ‘name’, то код будет выглядеть следующим образом:


df.drop_duplicates(subset=['name'], keep='first', inplace=True)

В данном примере мы указали столбец ‘name’ как ключ для поиска дубликатов. Аргумент keep=’first’ означает, что будет оставлен первый встреченный дубликат, а остальные будут удалены. Если вы хотите сохранить последний дубликат, замените ‘first’ на ‘last’.

Если вы хотите удалить дубликаты по всем столбцам, то просто укажите аргумент subset=None:


df.drop_duplicates(subset=None, keep='first', inplace=True)

После выполнения этой операции DataFrame будет содержать только уникальные строки. Удаление дубликатов помогает упростить анализ данных и избежать искажений в результатах. Помните, что перед удалением дубликатов всегда стоит проанализировать данные и убедиться, что удаление не повредит целостности информации.

Твои коллеги будут рады, поделись в

Автор урока

Дмитрий Комаровский
Дмитрий Комаровский

Автоматизация процессов
в КраснодарБанки.ру

Другие уроки курса "Python"

  1. Секреты Python
  2. Умножение строк и списков
  3. Обход дочерних элементов BeautifulSoup
  4. Оператор «is not» в Python
  5. Распаковка значений в Python
  6. Progress с библиотекой tqdm
  7. Деление в Python
  8. Работа с IP-адресами в Python
  9. Непрерывная проверка в Python
  10. Методы shutil для работы с файлами
  11. Транспонирование 2D-массива с помощью zip
  12. Установка и использование библиотеки google
  13. Установка User-Agent в Python
  14. Методы в Python
  15. Константы в модуле cmath
  16. Работа с датой и временем в Python
  17. Оптимизация памяти с __slots__
  18. Фильтрация списка от «ложных» значений
  19. Работа с очередями в Python
  20. Моржовый оператор в Python 3.8
  21. Работа с геоданными с помощью geopy
  22. Возврат нескольких значений из функции
  23. Проверка на истинность объектов в Python
  24. Запрос пароля с помощью getpass
  25. Библиотека funcy: удобные утилиты
  26. Удаление элемента по индексу в Python
  27. Получение списка кортежей из словаря
  28. Обрезка изображения с Pillow
  29. Создание спинбокса в tkinter
  30. Проверка типа данных
  31. Генерация резюме в Gensim
  32. Переопределение метода __pow__
  33. Инициализация структур данных
  34. Операции с числами в Python
  35. Проверка подстроки в строке с помощью in
  36. Метод __imod__ для Python
  37. Преобразование Word в PDF с Spire.Doc
  38. Философия Python
  39. Многострочные строки в Python
  40. Использование двоеточия в Python
  41. Работа со стеком в Python

Marketello читают маркетологи из крутых компаний