Ο δημιουργός robots.txt — οι προτιμήσεις σας για την AI σε ένα αρχείο

Κάθε ιστότοπος μπορεί να καθορίσει τι επιτρέπεται να συλλέγουν οι ανιχνευτές (crawlers). Το αρχείο που το κάνει αυτό λέγεται robots.txt, και μέχρι τώρα, το να ζητήσετε από τις εταιρείες AI «να μην εκπαιδεύουν τα μοντέλα τους με τα κείμενά μου» σήμαινε ξεχωριστό κανόνα για κάθε εταιρεία. Στις 30 Οκτωβρίου 2026, τα τέσσερα μεγάλα εργαστήρια συμφώνησαν να τηρούν ένα κοινό σήμα για την εκπαίδευση — αυτός ο δημιουργός το προσθέτει στο αρχείο σας, μαζί με τους κανόνες για κάθε ανιχνευτή που ισχύουν σήμερα. Είναι δωρεάν και λειτουργεί εξ ολοκλήρου στον περιηγητή σας: τίποτα από όσα πληκτρολογείτε δεν ανεβαίνει πουθενά.

Δεν είστε σίγουροι τι σημαίνουν οι επιλογές; Υπάρχουν τρία διαφορετικά είδη επισκεπτών AI, και ο αποκλεισμός του καθενός κοστίζει κάτι διαφορετικό. Οι ανιχνευτές εκπαίδευσης συλλέγουν σελίδες για την εκπαίδευση μοντέλων. Οι ανιχνευτές αναζήτησης και απαντήσεων ευρετηριάζουν σελίδες, ώστε τα συστήματα αναζήτησης AI να μπορούν να τις παραθέτουν — ο αποκλεισμός τους μπορεί να σας κοστίσει ορατότητα και παραπομπές. Οι μηχανισμοί ανάκτησης κατ' αίτημα χρήστη επισκέπτονται μια σελίδα όταν κάποιος ζητά από έναν βοηθό να την ανοίξει — ο αποκλεισμός τους σημαίνει ότι οι βοηθοί δεν μπορούν να διαβάζουν τις σελίδες σας για λογαριασμό των χρηστών τους.

1. Ξεκινήστε επιλέγοντας μια έτοιμη ρύθμιση

2. Ή ορίστε κάθε επιλογή μόνοι σας

Το κοινό σήμα εκπαίδευσης

Ανιχνευτές εκπαίδευσης — αποκλείστε τους από το να συλλέγουν τις σελίδες μου για εκπαίδευση

Ανιχνευτές αναζήτησης και απαντήσεων — αποκλείστε τους και η αναζήτηση AI ίσως πάψει να σας παραθέτει

Μηχανισμοί ανάκτησης κατ' αίτημα χρήστη — αν τους αποκλείσετε, οι βοηθοί δεν θα μπορούν να ανοίγουν τις σελίδες σας όταν τους ζητηθεί

Προαιρετικά επιπλέον

3. Το robots.txt σας

 

Το κοινό token, με ειλικρίνεια

Το σήμα προέρχεται από προσχέδιο του IETF (Internet-Draft) με ημερομηνία 30 Οκτωβρίου 2026, που υπέβαλε ο Kevin Kelley της Anthropic. Στο αρχείο σας εμφανίζεται ως εξής:

User-Agent: __usage_ai-training
Disallow: /

Τα χρονοδιαγράμματα που έχουν δώσει οι εταιρείες: η Anthropic έχει ήδη αρχίσει να το εφαρμόζει. Η OpenAI λέει «τους επόμενους μήνες». Η Microsoft στοχεύει να ξεκινήσει την 1η Φεβρουαρίου 2027. Η Google θέτει ως στόχο το 2027 και αναφέρει ότι, όταν το Google-Extended δεν κατονομάζεται, θα ερμηνεύει το opt-out μέσω token ως opt-out του Google-Extended. Δύο επισημάνσεις, διατυπωμένες καθαρά: το προσχέδιο αποτελεί ατομική υποβολή — όχι πρότυπο εγκεκριμένο από το IETF — και η ισχύς του λήγει στις 3 Μαΐου 2027· και μια ομάδα User-Agent: * δεν μετράει, γι' αυτό ο δημιουργός τοποθετεί πάντα το token σε ξεχωριστή ομάδα. Ελέγξαμε και αυτόν τον ισχυρισμό — δείτε την ετυμηγορία του Claim Check.

Τι δεν μπορεί να κάνει το robots.txt

Το robots.txt είναι αίτημα, όχι κλειδαριά. Οι έντιμοι ανιχνευτές το τηρούν· οι ανέντιμοι scrapers το αγνοούν, και τίποτε στο αρχείο δεν τους σταματά. Δεν αφαιρεί περιεχόμενο που έχει ήδη συλλεχθεί σε σύνολα δεδομένων ούτε αναιρεί την εκπαίδευση μοντέλων που έχει ήδη πραγματοποιηθεί με αυτό. Και δεν είναι έλεγχος πρόσβασης — ό,τι μπορεί να διαβάσει ένας ανιχνευτής, μπορεί να το διαβάσει και ένας άνθρωπος. Αντιμετωπίστε το ως επίσημα καταγεγραμμένη δήλωση της προτίμησής σας, την οποία ακριβώς συμφώνησαν να σέβονται οι παραπάνω εταιρείες.

Πώς να χρησιμοποιήσετε το αρχείο

Αποθηκεύστε το με το όνομα robots.txt στη ρίζα του τομέα σας, ώστε να απαντά στη διεύθυνση https://yoursite.com/robots.txt. Αν έχετε ήδη ένα robots.txt με κανόνες για άλλους ανιχνευτές ή διαδρομές, συγχωνεύστε τους κανόνες — μην αντικαταστήσετε το υπάρχον αρχείο χωρίς έλεγχο: διατηρήστε τις υπάρχουσες ομάδες σας και προσθέστε τις ομάδες που δημιούργησε αυτός ο δημιουργός. Στη συνέχεια, επισκεφθείτε τη διεύθυνση /robots.txt του ιστοτόπου σας για να επιβεβαιώσετε ότι το αρχείο είναι διαθέσιμο, και ελέγξτε την ξανά μετά από κάθε ανασχεδιασμό του ιστοτόπου σας.

Για την ιστορία, η δική μας επιλογή στο bizn.org είναι αντίθετη από τις περισσότερες από αυτές τις ρυθμίσεις: το robots.txt μας επιτρέπει κάθε ανιχνευτή, επειδή αυτός ο ιστότοπος έχει σχεδιαστεί ώστε να είναι αναγνώσιμος τόσο από πράκτορες όσο και από ανθρώπους. Ο ιστότοπός σας, η απόφασή σας — αυτός ο δημιουργός υπάρχει για να μπορείτε να πάρετε την απόφαση μόνοι σας, μέσα σε λίγα λεπτά, χωρίς να χρειάζεται να μάθετε τη σύνταξη.

Διαβάστε το Claim Check →   Περισσότεροι πόροι για την εποχή των πρακτόρων →