-
Notifications
You must be signed in to change notification settings - Fork 0
/
__test2.py
143 lines (116 loc) · 5.81 KB
/
__test2.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
import pandas as pd
import pickle
from fx_main_test import select_and_filter_bakery_data
from data_filter_inter import filter_by_id_menu, filter_by_year, filter_by_month, filter_by_day, filter_by_hour, filter_columns
from utils import export_to_excel, export_to_excel_group
import difflib
from itertools import combinations
import re
# DataFrame-ek betöltése a pickle fájlból
with open('pekseg_dataframes.pkl', 'rb') as f:
pekseg_df_dict = pickle.load(f)
# Function to calculate similarity percentage between two strings
def similarity_percentage(str1, str2):
seq = difflib.SequenceMatcher(None, str1, str2)
return seq.ratio() * 100
# Reguláris kifejezés a numerikus számok kereséséhez
numeric_only = re.compile(r'\d+')
# Szűrők listája
selected_filters = []
# Interaktív választás a szűrők közül
print("Válassz a következő szűrők közül:")
print("1. ID menü alapján")
print("2. Év alapján")
print("3. Hónap alapján")
print("4. Nap alapján")
print("5. Óra alapján")
print("6. Oszlopok szerinti szűrés")
while True:
try:
selected_filter = int(input("Válassz egy számot a kívánt szűrőhöz: "))
if selected_filter < 1 or selected_filter > 6:
raise ValueError
selected_filters.append(selected_filter)
add_more = input("Szeretnél még egy szűrőt választani? (igen/nem): ")
if add_more.lower() != 'igen':
break
except ValueError:
print("Hibás bemenet. Kérlek, válassz érvényes számot.")
# DataFrame-ek kiválasztása és szűrése
selected_bakery_data = select_and_filter_bakery_data(pekseg_df_dict)
# Szűrők alkalmazása a DataFrame-ekre
filtered_dataframes = selected_bakery_data
for selected_filter in selected_filters:
if selected_filter == 1:
filtered_dataframes = filter_by_id_menu(filtered_dataframes)
elif selected_filter == 2:
filtered_dataframes = filter_by_year(filtered_dataframes)
elif selected_filter == 3:
filtered_dataframes = filter_by_month(filtered_dataframes)
elif selected_filter == 4:
filtered_dataframes = filter_by_day(filtered_dataframes)
elif selected_filter == 5:
filtered_dataframes = filter_by_hour(filtered_dataframes)
elif selected_filter == 6:
filtered_dataframes = filter_columns(filtered_dataframes)
# Szűrők alkalmazása a DataFrame-ekre
for key, df in filtered_dataframes.items():
# Csoportosítás 'date' és 'id_menu' alapján, majd oszlopok összegzése napi szinten
grouped = df.groupby(['date', 'id_menu', 'product']).agg({
'quantity': 'sum',
'price': 'sum',
'amount': 'sum',
'discount': 'sum',
'paid': 'sum'
}).reset_index()
# Csak a kívánt oszlopok megtartása
grouped = grouped[['date', 'id_menu', 'product',
'quantity', 'price', 'amount', 'discount', 'paid']]
# A 'product' oszlop értékeinek tisztítása és 'nett' oszlop hozzáadása
grouped['nett'] = grouped['product'].str.replace('eg', '').replace('sz', '').replace('EL', '').replace('HF', '')
grouped['nett'] = grouped['nett'].str.extract('(\d+)').astype(float) # Kiszűrés csak a számokból
# Eredmény mentése
filtered_dataframes[key] = grouped
print(grouped[['product', 'nett']].iloc[:100])
# Az új DataFrame-et elmentjük az eredeti helyére
filtered_dataframes[key] = grouped
print(grouped.head())
# Iterate through each DataFrame
for key, df in filtered_dataframes.items():
grouped = df.groupby('date')
for date, group in grouped:
for (idx1, row1), (idx2, row2) in combinations(group.iterrows(), 2):
similarity = similarity_percentage(row1['product'], row2['product'])
endsid1 = row1['product'].endswith(('eg', 'sz'))
endsid2 = row2['product'].endswith(('sz', 'eg'))
starid1 = row1['product'].startswith(('EL', 'HF'))
starid2 = row2['product'].startswith(('HF', 'EL'))
if (similarity >= 67 and endsid1 and endsid2) or (similarity >= 67 and starid1 and starid2):
combined_id = str(df.loc[idx1, 'id_menu']) + "/" + str(row2['id_menu'])
df.loc[idx1, 'id_menu'] = combined_id
df.loc[idx1, 'id_menu2'] = combined_id.replace("/", "")
df.loc[idx1, 'merged'] = 'M+'
df.loc[idx1, 'product'] += ', ' + row2['product']
cleared_row1 = row1['product'].replace('eg', '').replace('sz', '').replace('EL', '').replace('HF', '')
df.loc[idx1, 'product_c'] = cleared_row1
cleared_nett = "".join(numeric_only.findall(cleared_row1))
df.loc[idx1, 'nett'] = cleared_nett
df.loc[idx1, 'quantity'] += row2['quantity']
df.loc[idx1, 'price'] += row2['price']
df.loc[idx1, 'amount'] += row2['amount']
df.loc[idx1, 'discount'] += row2['discount']
df.loc[idx1, 'paid'] += row2['paid']
# Csak a kívánt oszlopok megtartása
filtered_dataframes[key] = df[['date', 'id_menu', 'id_menu2', 'merged', 'product_c', 'product', 'nett',
'quantity', 'price', 'amount', 'discount', 'paid']]
print(df.head())
# 'date' oszlopok átalakítása a '%m-%d-%Y' formátumba
for key, df in filtered_dataframes.items():
df['date'] = pd.to_datetime(df['date'], format='%m-%d-%Y')
# Kiírjuk az első néhány sort minden módosított DataFrame-nek
for key, df in filtered_dataframes.items():
print(f"Módosított DataFrame '{key}':")
print(df.head())
# Excel-fájl exportálása
excel_file_name = "filtered_bakery_data.xlsx"
export_to_excel(filtered_dataframes, excel_file_name)