Python algo KNN

Python algo KNN

Sept 1, 1019

Algorithme des k plus proches voisins

notebook

Le notebook présenté ici est à télécharger à l’adresse suivante :

Binder

https://mybinder.org/v2/gh/tix06/notebook_datas.git/master

Choisir : algoKNN.ipynb

Exercez vous en suivant le tutoriel avec ce notebook.

Principe

On cherche une correspondance entre les caractéristiques physiques d’un joueur de basket et son poste sur le terrain.

Pour simplifier, on considerera que les postes sont au nombre de trois :

  • le joueur Centre, noté ‘C’ (position 5 sur le schéma)
  • Le joueur Ailier, noté ‘F’ (positions 3 et 4 sur le schéma)
  • Le joueur arrière ou meneur de jeu, noté ‘G’ (positions 1 et 2 sur le schéma)
image URI

Il nous faut, pour rechercher une correspondance, avoir accès à une base de données des joueurs de basket, jouant par exemple dans un même championnat.

En étudiant cette première population, on va pouvoir prédire quel poste pourrait occuper un nouveau joueur entrant dans ce championnat (qui serait drafté), à partir de ses seules caracteristiques physiques.

Cette idée est un peu simpliste : le poste occupé sur le parquet ne dépend pas, bien sur des seules caractéristiques physiques, mais aussi des copétences du joueur.

Mais nous allons chercher dans ce TP si l’idée est plutôt cohérente.

On traite alors un jeu de données bi-dimentionnelles à N classes (où N estle nombre de postes occupés par les joueurs).

On va pour cela utiliser l’algorithme des k-plus-proches-voisins. C’est l’un des algorithmes les plus utilisés dans le domaine de l’apprentissage automatique ou machine learning.

Comme pour tous les types d’apprentissage automatique, le principe est le suivant :

  • on commence par étudier une population donnée, dite d’entrainement. La qualité d’échantillonnage utilisé pour cette population va déterminer la bonne prédiction par cet algorithme. L’étude de cette population doit permettre de créer des ensembles d’objets aux propriétés similaires. Par exemple, l’ensemble constitué des joueurs de type Centre seront probablement plus grands et plus forts que les autres joueurs.

  • On dispose ensuite d’une population exterieure à cet échantillonnage. On cherche à prevoir leur position sur le terrain par rapport à leurs caractéristiques physiques, d’après les résultats de l’étude préalable.

La ligue de basket NBA

Les données sont issues de la page : [https://fr.global.nba.com/playerindex/](https://fr.global.nba.com/playerindex/]

tableau joueurs NBA
extrait du tableau des joueurs de NBA

La ligue de basket americaine contient environ 400 joueurs professionnels. La plupart de nationalité américaine. On dispose d’un extrait de ce fichier (voir dans le dossier datas), constitué de 57 joueurs, classés par ordre alphabetique.

Chargement du fichier base de données

Python : librairies numpy et pandas

Le traitement des données se fera en langage Python.

On commence par charger les librairies utiles pour le traitement de ces données. Puis on transforme celles-ci en un DataFrame, une sorte de tableau à 2 entrées. Les valeurs de taille et de poids sont toutes de type float après ce premier traitement.

import numpy as np
import pandas as pd
data = pd.read_csv("datas/joueursNBA2020.csv", sep=";")
tableau_reduit=data[['nom','equipe','poste','taille','poids','experience','pays']].dropna()
tableau_reduit['poids']=tableau_reduit['poids'].replace(to_replace ='kg', value = '', regex = True)
tableau_reduit['poids']=tableau_reduit['poids'].astype('float')
tableau_reduit['taille']=tableau_reduit['taille'].astype('float')
tableau_reduit.head() # on affiche le debut du tableau avec la fonction .head()

Filtrer les données du DataFrame

On peut maintenant filtrer les joueurs du tableau selon le poste du joueur. On utilise pour cela la fonction .loc associée au DataFrame. On met en paramètre un predicat qui sera testé pour chacun des objets du DataFrame. Seuls les objets au prédicat true sont conservés :

ensemble = tableau_reduit.loc[tableau_reduit['poste']=='C']

Question : Dans cet exemple : A quel poste jouent les joueurs conservés dans le DataFrame ensemble? Vérifiez le dans la console…

Afficher les joueurs sur un graphique taille-poids

On créé une fonction points qui ajoute le nuage de points pour chacun des éléments de la liste postes mise en paramètre. On créé un nuage de points de couleur et d’étiquette différent pour chaque poste occupé.

Les paramètres de cette fonction :

  • postes : on peut y mettre le caractère correspondant au poste comme ‘G’, ‘F’, ou ‘C’. On peut aussi y mettre une liste constituée de certains, ou tous les postes.
  • Les autres paramètres sont optionnels : il s’agit de la taille et de la forme du marqueur, et de la transparence.
import matplotlib.pyplot as plt
from matplotlib.patches import Ellipse, Circle 

def points(postes,size=20,marker='o',alpha=0.5):
    """
    fonction qui ajoute des points au graphique existant
    
    Le paramètres :
    * postes peut être une liste de postes comme par exemple ['G','F','C']
    ou bien un seul poste, comme par exemple 'C'
    * les autres paramètres sont optionnels
    """
    for poste in postes:
        ensemble = tableau_reduit.loc[tableau_reduit['poste']==poste]
        x=ensemble['taille']
        y=ensemble['poids']
        plt.scatter(x,y,label=poste, s=size, marker=marker, alpha=alpha)

Avec les lignes suivantes, on affiche sur un même graphique les joueurs du tableau jouant aux postes ‘G’, ‘F’, ‘C’.

Les joueurs du poste ‘C’ sont mis en relief avec un marqueur plus gros.

Question : Repérez à quel endroit se regroupent les joueurs ‘C’…

plt.title('caractéristiques des joueurs de NBA 2020')
plt.xlabel("taille")
plt.ylabel("poids")
plt.grid(which='major', linestyle='-', linewidth='0.5', color='red')
points(['F','G'])

points('C',100,'D',1)
axes = plt.gca()
plt.legend()
plt.savefig('datas/centre.png')
plt.show()

joueurs au poste 'C' dans la population NBA

Travail : Utilisez la fonction points pour représenter les 3 ensembles ‘C’, ‘F’ et ‘G’. Mais cette fois, on veut mettre en relief :

  • les joueurs ‘F’ dans un 2e graphique
  • Puis mettre en relief les joueurs ‘G’ dans un 3e graphique.
# Correction
plt.title('caractéristiques des joueurs de NBA 2020')
plt.xlabel("taille")
plt.ylabel("poids")
plt.grid(which='major', linestyle='-', linewidth='0.5', color='red')
points(['G','C'])

points('F',100,'D',1)
axes = plt.gca()
plt.legend()
plt.savefig('datas/ailier.png')
plt.show()

joueurs au poste 'F' dans la population NBA

# Correction
plt.title('caractéristiques des joueurs de NBA 2020')
plt.xlabel("taille")
plt.ylabel("poids")
plt.grid(which='major', linestyle='-', linewidth='0.5', color='red')
points(['F','C'])

points('G',100,'D',0.5)
axes = plt.gca()
plt.legend()
plt.savefig('datas/arriere.png')
plt.show()

joueurs au poste 'G' dans la population NBA

Prediction du poste du joueur

population dont le poste est inconnu

Certains joueurs ont des caractéristiques qui les rendent plus polyvalents.

Question : En observant le tableau_reduit en entier : Quels sont ces postes polyvalents ?

Ces joueurs n’ont été mis sur aucun des graphiques d’apprentissage vus plus haut. Et si vous utilisiez un algorithme prédictif pour deviner le meilleur poste auquel ils devraient être ? Nous allons étudier en détail cet algorithme, des k plus proches voisins…

Prenons par exemple les joueurs polyvalents à l’étiquette “G-F”. Ces joueurs, sont-ils plutôt pressentis pour être G (arrière), ou F (ailier) ?

C’est ce que nous allons chercher à déterminer.

Travail : en utilisant la méthode .loc associée au DataFrame tableau_reduit : filtrer les joueurs dont le poste est ‘G-F’, et affecter ce nouveau DataFrame à la variable ensemble Afficher alors ce nouveau tableau

# Correction
ensemble = tableau_reduit.loc[tableau_reduit['poste']=='G-F']
ensemble

Choisir un joueur

Travail : Repérer le numéro de l’index du premier joueur au poste ‘G-F’ dans ce tableau. Afficher l’ensemble des informations relatives à ce joueur à l’aide de l’instruction ensemble.loc[numero index]

# Correction
ensemble.loc[9]

Utiliser la fonction joueur() pour l’afficher sur le graphique

Affichons un marqueur pour ce joueur au milieu de la distribution d’entrainement. Pour cela, on utilise une fonction de nom joueur() dont les paramètres sont les suivants :

  • num : le numero de l’index du joueur dans le tableau
  • rayon : le rayon du cercle dans lequel on recherche les k-plus proches voisins. Ce rayon est mesuré dans une unité relative au poids du joueur. L’echelle de l’axe des abscisses, la taille étant très différente, on réalise un calcul prenant en compte le ration DX/DY pour exprimer l’éloignement dans cette direction (un ecart de 10kg n’a pas la même signification qu’un écart de 10cm…)
def joueur(num, rayon):
    """
    positionne le point relatif au joueur de numero num
    et trace un cercle de rayon r exprimé dans une unité relative à l'axe des Y
    Le demi axe de l'ellipse pour X est calculé par rapport au ratio = DX/DY : 
    r_X = r_y*ratio
    """
    ratio = 0.005 # echelle des X / echelle des Y
    plt.title('caractéristiques des joueurs de NBA 2020')
    plt.xlabel("taille")
    plt.ylabel("poids")
    plt.grid(which='major', linestyle='-', linewidth='0.5', color='red')
    points(['F','G','C'])
    x = ensemble.loc[num]['taille']
    y = ensemble.loc[num]['poids']
    plt.scatter(x,y,label=poste, s=50, marker='P', alpha=1)
    circle = plt.Circle((x, y), 1, color='r')
    fig = plt.gcf()  # gcf() signifie obtenir le chiffre actuel
    ax = fig.gca()  # gca() signifie Obtenir l'axe actuel
    ax.set_aspect(ratio)  # je choisi le ratio DX/DY pour les echelles des axes
    ax.add_artist(Ellipse((x, y), rayon*ratio, rayon, color='yellow',alpha=0.2))
    plt.legend()
    plt.savefig('datas/joueur'+str(num)+'.png')
    plt.show()

Afficher le joueur sur le graphique

Travail : utiliser la fonction joueur() pour afficher un marqueur pour ce joueur. On prendra un rayon égal à 20 pour le paramètre rayon.

# correction
joueur(9,20)

joueurs n°9 dans la population NBA

L’algorithme des k-plus proches voisins

L’algorithme des k-plus proches voisins peut s’écrire en langage naturel :

1) trouver dans la collection d’entrainement les k plus proches voisins du joueur 2) Parmi ces proches voisins, trouver la classification majoritaire 3) Renvoyer la classification majoritaire

Travail : Commencez par fabriquer un DataFrame ensembleG contenant tous les joueurs au poste ‘G’.

Puis, avec cette même methode, construire les DataFrame ensembleF et ensembleC

# Correction
ensembleG = tableau_reduit.loc[tableau_reduit['poste']=='G']
ensembleF = tableau_reduit.loc[tableau_reduit['poste']=='F']
ensembleC = tableau_reduit.loc[tableau_reduit['poste']=='C']

Enfin, construire un DataFrame ensemble qui sera réalisé par concaténation des 3 premiers.

Afficher les premieres lignes de ce DataFrame (avec la fonction .head()

Aide sur la fonction concat : ensemble = pd.concat([DataFrame1,DataFrame2,DataFrame3])

# Correction
ensemble = pd.concat([ensembleG,ensembleF,ensembleC])
ensemble.head()

Puis ajoutons une nouvelle colonne avec la distance au joueur de numero num dans le graphique :

def distance(num,ratio):
    x = tableau_reduit.loc[num]['taille']
    y = tableau_reduit.loc[num]['poids']
    ensemble['dist'] = ensemble.apply(lambda row: (((row["taille"] - x)/ratio)**2 + (row["poids"] - y)**2)**0.5, axis=1)
    # On trie le tableau par valeur dist croissante
    ensemble_trie = ensemble.sort_values(by = 'dist')
    return ensemble_trie
ensemble_trie = distance(9,0.005)
ensemble_trie

Trier les résultats

On voudrait maintenant dénombrer, par poste, les joueurs aux caractéristiques les plus proches de notre joueur au poste inconnu. Sur un echantillon des k premiers joueurs du tableau précédent.

Travail : Créer une fonction knn(k) qui renvoie un dictionnaire score avec pour chacune des clés, ‘G’, ‘F’, et ‘G’, le nombre de joueurs du tableau parmi les k premiers.

# Correction
def knn(k):
    score={'G':0,'F':0,'C':0}
    for i in range(k):
        z=ensemble_trie.index[i]
        if ensemble_trie.loc[z]['poste']=='G' : 
            score['G']+=1
        elif ensemble_trie.loc[z]['poste']=='F' :
            score['F']+=1  
        else : score['C']+=1
    return score  

On peut afficher les 3 premiers joueurs du tableau trié, avec l’une des méthodes associée au DataFrame :

DataFrame.head(nombre de lignes à afficher)

ensemble_trie.head(3)
knn(3)

Travail : Ecrire une fonction qui renvoie le poste le plus représenté selon la valeur de k choisie. Faites alors quelques essais. Conclure quand à la pertinence du résultat selon la valeur de k choisie.

Prolongement

On peut réaliser ce même travail : pour rechercher les k plus proches voisins :

  • d’un autre joueur au profil ‘G-F’
  • pour un joueur d’un autre profil, comme par exemple ‘F-G’

Liens