Python: Сцэнар - вытрымка Google Autosuggest з тэндэнцый па ключавых словах пошуку ў вашай нішы

Сцэнар Python для фіксацыі тэндэнцый аўтапрапановы

Усім падабаецца Google Trends, але гэта крыху складана, калі справа даходзіць да ключавых слоў з доўгім хвастом. Усім нам падабаецца афіцыйнае служба тэндэнцый google для атрымання разумення паводзін пры пошуку. Аднак дзве рэчы перашкаджаюць многім выкарыстоўваць яго для цвёрдай працы;

  1. Калі трэба знайсці новыя нішавыя ключавыя словыёсць недастаткова дадзеных у Google Trends 
  2. Адсутнасць афіцыйнага API для запытаў на тэндэнцыі Google: Калі мы выкарыстоўваем такія модулі, як пітрэнд, тады мы павінны выкарыстоўваць проксі-серверы, альбо мы заблакуемся. 

У гэтым артыкуле я падзялюся Python Script, які мы напісалі для экспарту папулярных ключавых слоў праз Google Autosuggest.

Атрымлівайце і захоўвайце вынікі аўтаматычнага прагляду з цягам часу 

Дапусцім, у нас ёсць 1,000 ключавых слоў, якія трэба адправіць у Google Autosuggest. Узамен мы, верагодна, атрымаем каля 200,000 XNUMX даўгахвосты ключавыя словы. Затым нам трэба зрабіць тое ж самае праз тыдзень і параўнаць гэтыя наборы дадзеных, каб адказаць на два пытанні:

  • Якія запыты новыя ключавыя словы у параўнанні з мінулым разам? Напэўна, гэта той выпадак, які нам патрэбны. Google лічыць, што гэтыя запыты становяцца ўсё больш значнымі - дзякуючы гэтаму мы можам стварыць уласнае рашэнне Google Autosuggest! 
  • Якія запыты ключавыя словы больш не у трэндзе?

Сцэнар даволі просты, і большую частку кода я падзяліў тут. Абноўлены код захоўвае дадзеныя за мінулыя запускі і параўноўвае прапановы з цягам часу. Мы пазбягалі баз дадзеных на аснове файлаў, такіх як SQLite, каб зрабіць гэта простым - таму ўсе сховішчы дадзеных выкарыстоўваюць CSV-файлы ніжэй. Гэта дазваляе імпартаваць файл у Excel і вывучаць тэндэнцыі ключавых слоў для вашага бізнесу.

Каб выкарыстаць гэты сцэнар Python

  1. Калі ласка, увядзіце набор ключавых слоў, які трэба адправіць у аўтазапаўненне: keywords.csv
  2. Наладзьце налады сцэнарыя ў адпаведнасці з вашымі патрэбамі:
    • МОВА: па змаўчанні "en"
    • КРАІНА: па змаўчанні "мы"
  3. Заплануйце, каб сцэнар запускаўся раз на тыдзень. Вы таксама можаце запусціць яго ўручную, як хочаце.
  4. Выкарыстоўвайце keyword_suggestions.csv для далейшага аналізу:
    • першы_бачаны: гэта дата, калі запыт упершыню з'явіўся ў аўтапрапісе
    • апошні_бачаны: дата, калі запыт быў убачаны апошні раз
    • is_new: калі first_seen == last_seen, мы ўсталёўваем гэта праўда - Проста адфільтруйце гэта значэнне, каб атрымаць новыя папулярныя пошукавыя запыты ў аўтапрапанове Google.

Вось код Python

# Pemavor.com Autocomplete Trends
# Author: Stefan Neefischer (stefan.neefischer@gmail.com)
import concurrent.futures
from datetime import date
from datetime import datetime
import pandas as pd
import itertools
import requests
import string
import json
import time

charList = " " + string.ascii_lowercase + string.digits

def makeGoogleRequest(query):
    # If you make requests too quickly, you may be blocked by google 
    time.sleep(WAIT_TIME)
    URL="http://suggestqueries.google.com/complete/search"
    PARAMS = {"client":"opera",
            "hl":LANGUAGE,
            "q":query,
            "gl":COUNTRY}
    response = requests.get(URL, params=PARAMS)
    if response.status_code == 200:
        try:
            suggestedSearches = json.loads(response.content.decode('utf-8'))[1]
        except:
            suggestedSearches = json.loads(response.content.decode('latin-1'))[1]
        return suggestedSearches
    else:
        return "ERR"

def getGoogleSuggests(keyword):
    # err_count1 = 0
    queryList = [keyword + " " + char for char in charList]
    suggestions = []
    for query in queryList:
        suggestion = makeGoogleRequest(query)
        if suggestion != 'ERR':
            suggestions.append(suggestion)

    # Remove empty suggestions
    suggestions = set(itertools.chain(*suggestions))
    if "" in suggestions:
        suggestions.remove("")
    return suggestions

def autocomplete(csv_fileName):
    dateTimeObj = datetime.now().date()
    #read your csv file that contain keywords that you want to send to google autocomplete
    df = pd.read_csv(csv_fileName)
    keywords = df.iloc[:,0].tolist()
    resultList = []

    with concurrent.futures.ThreadPoolExecutor(max_workers=MAX_WORKERS) as executor:
        futuresGoogle = {executor.submit(getGoogleSuggests, keyword): keyword for keyword in keywords}

        for future in concurrent.futures.as_completed(futuresGoogle):
            key = futuresGoogle[future]
            for suggestion in future.result():
                resultList.append([key, suggestion])

    # Convert the results to a dataframe
    suggestion_new = pd.DataFrame(resultList, columns=['Keyword','Suggestion'])
    del resultList

    #if we have old results read them
    try:
        suggestion_df=pd.read_csv("keyword_suggestions.csv")
        
    except:
        suggestion_df=pd.DataFrame(columns=['first_seen','last_seen','Keyword','Suggestion'])
    
    suggestionCommon_list=[]
    suggestionNew_list=[]
    for keyword in suggestion_new["Keyword"].unique():
        new_df=suggestion_new[suggestion_new["Keyword"]==keyword]
        old_df=suggestion_df[suggestion_df["Keyword"]==keyword]
        newSuggestion=set(new_df["Suggestion"].to_list())
        oldSuggestion=set(old_df["Suggestion"].to_list())
        commonSuggestion=list(newSuggestion & oldSuggestion)
        new_Suggestion=list(newSuggestion - oldSuggestion)
         
        for suggest in commonSuggestion:
            suggestionCommon_list.append([dateTimeObj,keyword,suggest])
        for suggest in new_Suggestion:
            suggestionNew_list.append([dateTimeObj,dateTimeObj,keyword,suggest])
    
    #new keywords
    newSuggestion_df = pd.DataFrame(suggestionNew_list, columns=['first_seen','last_seen','Keyword','Suggestion'])
    #shared keywords with date update
    commonSuggestion_df = pd.DataFrame(suggestionCommon_list, columns=['last_seen','Keyword','Suggestion'])
    merge=pd.merge(suggestion_df, commonSuggestion_df, left_on=["Suggestion"], right_on=["Suggestion"], how='left')
    merge = merge.rename(columns={'last_seen_y': 'last_seen',"Keyword_x":"Keyword"})
    merge["last_seen"].fillna(merge["last_seen_x"], inplace=True)
    del merge["last_seen_x"]
    del merge["Keyword_y"]
    
    #merge old results with new results
    frames = [merge, newSuggestion_df]
    keywords_df =  pd.concat(frames, ignore_index=True, sort=False)
    # Save dataframe as a CSV file
    keywords_df['first_seen'] = pd.to_datetime(keywords_df['first_seen'])
    keywords_df = keywords_df.sort_values(by=['first_seen','Keyword'], ascending=[False,False])   
    keywords_df['first_seen']= pd.to_datetime(keywords_df['first_seen'])
    keywords_df['last_seen']= pd.to_datetime(keywords_df['last_seen'])
    keywords_df['is_new'] = (keywords_df['first_seen']== keywords_df['last_seen'])
    keywords_df=keywords_df[['first_seen','last_seen','Keyword','Suggestion','is_new']]
    keywords_df.to_csv('keyword_suggestions.csv', index=False)

# If you use more than 50 seed keywords you should slow down your requests - otherwise google is blocking the script
# If you have thousands of seed keywords use e.g. WAIT_TIME = 1 and MAX_WORKERS = 5
WAIT_TIME = 0.2
MAX_WORKERS = 20
# set the autocomplete language
LANGUAGE = "en"
# set the autocomplete country code - DE, US, TR, GR, etc..
COUNTRY="US"
# Keyword_seed csv file name. One column csv file.
#csv_fileName="keyword_seeds.csv"
CSV_FILE_NAME="keywords.csv"
autocomplete(CSV_FILE_NAME)
#The result will save in keyword_suggestions.csv csv file

Загрузіце сцэнар Python

Асман Сірын 

Пемавор прадастаўляе некалькі інструментаў лічбавага маркетынгу для спецыялістаў па маркетынгу прадукцыйнасці ў комплексных пакетах для розных патрабаванняў. Мы дапамагаем вам з аўтаматызацыяй працэсаў на аснове дадзеных у кіраванні кампаніямі для рэкламы, пакупак, таргоў і розных іншых маркетынгавых паслуг.

Што вы думаеце?

Гэты сайт выкарыстоўвае Akismet для барацьбы са спамам. Даведайцеся, як дадзеныя апрацоўваюцца каментар.