[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

; R# I: l; h" J- s$ p" U' A& L抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
% e8 M  ?0 R# V* V2 j+ F% Bimport imagehash
from PIL import Image
1 i5 J7 I: @  q/ {2 h% \
* ~) T; V$ A/ R9 g8 @; a7 Qdef compute_image_hash(image_path):
    # image = Image.open(image_path)
2 S% S% M. |) O2 N9 _    # return imagehash.average_hash(image)
8 b: ?0 O" x4 ]: l( h8 E* d    try:
        with Image.open(image_path) as image:
- L9 Y9 ~, H" O            return imagehash.average_hash(image)
9 ?2 Y) h6 F! U0 ~& C% Q9 T3 S3 K    except (OSError, IOError) as e:
& y* `- _' W8 C8 b% ?+ I        print(f"处理图像 {image_path} 时出错: {e}")
        return None

def remove_duplicates(image_folder):
    hash_dict = {}
    duplicates = []
0 B+ @+ _5 P% J
    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
1 r( |, {3 C1 }3 B2 y            image_path = image_folder + "\\" + filename
: q% a0 ~3 N6 _  t: X            image_hash = compute_image_hash(image_path)
) F9 U* i; T! u  S7 N# ~+ @/ B
            if image_hash in hash_dict:
0 W, I9 W# v6 y5 \. h& v% t                duplicates.append(image_path)
            else:
, c& M5 B) T7 f# Q3 ?9 }                hash_dict[image_hash] = image_path
2 ]) O( |  b: g2 {" V) x* r" l        else:
            pass

% y7 d0 ?5 L  `% v$ C- h6 Z4 ~( M8 S    for duplicate in duplicates:
        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
% I" M4 J5 I3 ]8 ?! {* m
    print("Duplicate removal complete.")

% B$ I  m8 C4 ]3 q4 n+ A- `image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
0 C. n; J, _7 l+ I5 [有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

8 ^* H' W" D9 C一眼ai
: G3 }7 _* L, \7 m1 v, S