Uważamy ten artykuł za częściowo nieprecyzyjne, zobaczyliśmy, że najbardziej szkodliwe roboty nie przestrzegają robotów.txt, więc kontrolujemy część serwera, niegrzeczne roboty są teraz zamiatane siłą! (Przeglądamy logów regularnie i ulepszamy urządzenie filtrujące). Możesz w razie potrzeby uzupełnić swój lokalny plik: robots.txt...
30/09/2016, w obliczu utrzymywania się rosyjskiego traffic spam, chiński /ex i ataków stron internetowych, ustalamy blokadę przez IP kraju, przeczytaj:https://support.yoorshop.hosting/knowledgebase/2464/Blokowanie-ruchu-wedlug-kraju.html
Prestashop:
https://mypresta.eu/modules/administration-tools/block-ip-free
Wordpress:
https://fr.wordpress.org/plugins/iq-block-country/
Jeśli Twoja strona jest atakowana lub nie, oferujemy Ci różne narzędzia tymczasowe, lub stałe:
https://support.yoorshop.hosting/knowledgebase/3077/Czy-trwa-atak-DDoS.html
Wynik naszych blokad w awstatach cpanel (ale nie tylko):
444 Unknown error 4 751 2.9 % 0
Sprawdź swoje wizyty w czasie rzeczywistym w cpanel (tematy papierowe), sekcji odwiedzających, kliknij ALL, a następnie w prawym przycisku Ustawienia, kliknij status/status, kliknij URL i URL Zamknij, jeśli to konieczne, aby zobaczyć kody błędów, a jeśli zobaczysz 444, 429, 405, 410 na uzasadnionych stronach/URL, skontaktuj się z nami, aby zobaczyć, co możemy zrobić... To zupełnie normalne, aby zobaczyć listę bardzo ważnych błędów w AWSTATS cPanel, istnieje wiele ruchu blokowane z bardzo precyzyjnych powodów.
W celu ograniczenia prędkości wszystkich uważnie uważnych robotów, można dodać to do swojego robota.txt po linii zawierającej User-agent: *, wskazuje to na wymagany 5 sekundowy czas pomiędzy każdą przeszukaną stroną:User-agent: *
Crawl-delay: 5
Używamy tych konkretnych kodów, aby nas wykryć:- 206: Wyświetlona część zawartości, jest to konsekwencja kodu 410 poniżej, skontaktuj się z nami. Uważaj, to zupełnie normalne, aby mieć liczbę 206 w logach, gdy treści są zajęte z zewnątrz!
- 405: Dotyczy wątpliwych żądań typu frame/xss/injection SQL/http.
- 410: reflektory webowe (strony rosyjskie, chińskie lub inne) lub zablokowane słowo kluczowe (na wypadek, gdyby jedna z twoich stron nie była w pełni wyświetlana, skontaktuj się z nami), zobaczysz kod 206 odpowiednio zwiększyć...
- 429: ograniczenie zapytań do plików wrażliwych wp-login.php /ex, ale nie tylko.
- 444: aby powstrzymać bots i URL pliku config.php /ex.
- 499: gość lub sieć nie przekazał odpowiedzi na czas, połączenie jest zamknięte. Nadmierne połączenia IP mogą również spowodować.
- 503: Zbyt wiele zapytań, używanych przez wtyczki anty-ddos, ale także inne zabezpieczenia w naszym domu.
Niezależnie od tego, czy masz niewiele legalnego ruchu, liczba zablokowanych przez nasz system ruchu może być bardzo zróżnicowana w zależności od strony, od 10-15% do potrójnej!
Czytać: https://support.yoorshop.hosting/knowledgebase/2464/Blokowanie-ruchu-wedlug-kraju.html
Następnie trzeba utworzyć plik robotów.txt, który pozwala ograniczyć ruch robotów sieciowych, a niektóre z nich nie mają dobrych intencji: szukają luk na swojej stronie internetowej i/lub sabotują Twoją stronę internetową, a więc jej zasoby mogą również zapobiegać Ddos o łagodnym...
Wzięliśmy przykład strony na naszym serwerze używając CMS spip, na którym zauważyliśmy wysoki poziom wykorzystanych zasobów, więc po prostu przeanalizowaliśmy traffic przez awstats cpanel, aby sprawdzić, czy jest on normalny/legalny. Problem na tej stronie jest widoczny, jak pokazuje schwytanie, zauważamy, że rosyjski zakres IP jest odpowiedzialny za to wszystko: To dobrze pokazuje, że robot pochodzący z jednego wydawcy jest w ruchu zombie w tej konkretnej witrynie. Sprawdzamy tożsamość jednego z IP w celu zachowania ostrożności (jeśli firma hostingowa = roboty):
https://apps.db.ripe.net/db-web-ui/#/query
Aby zablokować wszystkie wizyty z tego zakresu IP (ponieważ są to liczne IP w tym przypadku), w cpanel, idź do blokerów IP i wprowadź nieco szerszy zakres IP. Nie blokować zbyt wiele IP plaż lub zbyt wiele IP, to pogorszy wydajność witryny, skontaktuj się z nami, jeśli masz ambicje blokowania dużych rzędów, zrobimy coś na poziomie Nginx...
Po wykonaniu, zobaczysz w sekcji Błędy cPanel, że ruch ten jest teraz blokowany dla tych IP.
To jest główna część najważniejszego pliku (to będzie działać tylko z tym, nawet jeśli będziemy mogli zrobić lepiej), a mianowicie lista robotów, które można z urzędu nie zezwolić:
User-agent: 008
User-agent: Alexibot
User-agent: AlvinetSpider
User-agent: Antenne Hatena
User-agent: ApocalXExplorerBot
User-agent: asterias
User-agent: BackDoorBot/1.0
User-agent: BizInformation
User-agent: Black Hole
User-agent: BlowFish/1.0
User-agent: BotALot
User-agent: BuiltBotTough
User-agent: Bullseye/1.0
User-agent: BunnySlippers
User-agent: Cegbfeieh
User-agent: CheeseBot
User-agent: CherryPicker
User-agent: CherryPickerElite/1.0
User-agent: CherryPickerSE/1.0
User-agent: CopyRightCheck
User-agent: cosmos
User-agent: Crescent
User-agent: Crescent Internet ToolPak HTTP OLE Control v.1.0
User-agent: DISCo Pump 3.1
User-agent: DittoSpyder
User-agent: dotbot
User-agent: EmailCollector
User-agent: EmailSiphon
User-agent: EmailWolf
User-agent: EroCrawler
User-agent: ExtractorPro
User-agent: Flamingo_SearchEngine
User-agent: Foobot
User-agent: Harvest/1.5
User-agent: hloader
User-agent: httplib
User-agent: HTTrack
User-agent: HTTrack 3.0
User-agent: humanlinks
User-agent: Igentia
User-agent: InfoNaviRobot
User-agent: JennyBot
User-agent: JikeSpider
User-agent: Kenjin Spider
User-agent: LexiBot
User-agent: libWeb/clsHTTP
User-agent: LinkextractorPro
User-agent: LinkScan/8.1a Unix
User-agent: LinkWalker
User-agent: lwp-trivial
User-agent: lwp-trivial/1.34
User-agent: Mata Hari
User-agent: Microsoft URL Control - 5.01.4511
User-agent: Microsoft URL Control - 6.00.8169
User-agent: MIIxpc
User-agent: MIIxpc/4.2
User-agent: Mister PiX
User-agent: MLBot
User-agent: moget
User-agent: moget/2.1
User-agent: MS Search 4.0 Robot
User-agent: MS Search 5.0 Robot
User-agent: Naverbot
User-agent: NetAnts
User-agent: NetAttache
User-agent: NetMechanic
User-agent: NICErsPRO
User-agent: Offline Explorer
User-agent: Openfind
User-agent: OpenindexSpider
User-agent: ProPowerBot/2.14
User-agent: ProWebWalker
User-agent: psbot
User-agent: QuepasaCreep
User-agent: QueryN Metasearch
User-agent: RepoMonkey
User-agent: RMA
User-agent: SemrushBot
User-agent: SightupBot
User-agent: SiteBot
User-agent: SiteSnagger
User-agent: SiteSucker
User-agent: Sogou web spider
User-agent: sosospider
User-agent: SpankBot
User-agent: spanner
User-agent: Speedy
User-agent: suggybot
User-agent: SuperBot
User-agent: SuperBot/2.6
User-agent: suzuran
User-agent: Szukacz/1.4
User-agent: Teleport
User-agent: Telesoft
User-agent: The Intraformant
User-agent: TheNomad
User-agent: TightTwatBot
User-agent: Titan
User-agent: toCrawl/UrlDispatcher
User-agent: TosCrawler
User-agent: True_Robot
User-agent: True_Robot/1.0
User-agent: turingos
User-agent: TurnitinBot
User-agent: UrlPouls
User-agent: URLy Warning
User-agent: VCI
User-agent: Web Image Collector
User-agent: WebAuto
User-agent: WebBandit
User-agent: WebBandit/3.50
User-agent: WebCopier
User-agent: webcopy
User-agent: WebEnhancer
User-agent: WebmasterWorldForumBot
User-agent: webmirror
User-agent: WebReaper
User-agent: WebSauger
User-agent: website extractor
User-agent: Website Quester
User-agent: Webster Pro
User-agent: WebStripper
User-agent: WebStripper/2.02
User-agent: WebZip
User-agent: wget
User-agent: WikioFeedBot
User-agent: WinHTTrack
User-agent: WWW-Collector-E
User-agent: Xenu Link Sleuth/1.3.8
User-agent: yacy
User-agent: yandex
User-agent: YRSPider
User-agent: Zeus
User-agent: Zookabot
Disallow: /
Oto część wtórna przykład, który trzeba dostosować do swojej strony:User-agent: *
Disallow: /cgi-bin/
Disallow: /temp/
Disallow: /client.php
Sitemap: http://www.votresite.fr/sitemap.xml
Kolejna możliwość regulacji przez Nginx, utwórz plik nginx.conf i umieść to:
if ($bad_bot = 1) {
return 444 "? beep boop ?";
}Następnie otwórz Nginx menedżera i kliknij Reload linii: nginx.conf reload
Kolejną sztuczką jest powiedzieć robotom, aby powoli zwiedzili stronę internetową:
User-agent: *
Crawl-delay: 5
