Збій апаратного RAID-контролера: імпорт чужих конфігурацій без стирання дисків¶
Номери екстрених служб залежать від країни. На цій сторінці використовується номер 911 для Сполучених Штатів і Канади. Багато інших країн використовують 112, 999 або інший номер. Знайдіть номер для вашої країни.
Коли карта апаратного RAID-контролера корпоративного сервера, наприклад Dell PowerEdge PERC (H730P, H740P, H755, H840), HPE ProLiant Smart Array (P408i-a, P440ar, E208i, MR416i) або Broadcom / LSI / Avago MegaRAID (SAS 9361-8i, 9460-16i, 9560-16i), виходить з ладу плата PCIe, виходить з ладу суперконденсатор BBU/CacheVault або раптове падіння напруги на задній платі, і ви встановлюєте карту RAID для заміни лише для того, щоб побачити, як утиліта BIOS перед завантаженням призупиняється з жахливим запитом "Foreign configuration(s) found on adapter. Press any key to continue or 'C' to load the configuration utility", одне неправильне натискання клавіші може знищити терабайти робочих баз даних і віртуальних машин менш ніж за дві секунди. В апаратних архітектурах RAID смугова геометрія масиву (рівень RAID, порядок дисків, 64 KB / 256 KB розмір смуги та межі LBA логічного тому) зберігається обидва у вбудованій мікросхемі NVRAM плати контролера та у прихованому зарезервованому секторі на кожному фізичному диску SAS/SATA/NVMe, що називається форматом даних диска (DDF / COD, Конфігурація на диску) область метаданих. Коли нова карта RAID на заміну (або існуюча карта після тимчасового збою живлення задньої панелі) завантажується та бачить диски, на диску яких DDF серійний номер метаданих не відповідає порожньому NVRAM карти, він позначає ці диски як "Foreign". Якщо запанікований адміністратор натискає «Створити новий віртуальний диск» або «Ініціалізувати», вважаючи, що це «монтує» диски, або клацає «Очистити зовнішню конфігурацію», коли він мав намір імпортувати його, контролер перезаписує метадані на диску та обнулює заголовки віртуального диска. Знаючи точну різницю між Import Foreign Configuration і Clear Foreign Configuration, як позначати номери відсіків для фізичних дисків перед тим, як торкнутися окремого кейда, і як працювати з закріпленим/брудним кеш-пам’яттю зворотного запису (BBU / CacheVault) і "Punctured Stripe" multi-drive dropoffs повернуть ваш масив в режим онлайн без втрати даних. Якщо збій сервера був спричинений електричною пожежею в серверній кімнаті, літій-іонним тепловим розбігом ДБЖ або проривом водопровідної труби, евакуюйте приміщення та зателефонуйте до місцевого номери екстрених служб (911 у Сполучених Штатах і Канаді, 999 у Сполученому Королівстві, 112 у всьому Європейському Союзі) негайно. Для надзвичайних ситуацій, пов’язаних із масивом зберігання даних, віртуальною машиною та SSD, перегляньте наші посібники Погіршення роботи масиву NAS RAID, збій кількох дисків і відновлення ZFS/Btrfs, пошкодження ланцюга знімків віртуальної машини VMDk, VHDX і QCOW2, і SSD NVMe раптовий режим лише для читання та відновлення резервних блоків.
Зробіть це зараз¶
- НІКОЛИ не натискайте «Ініціалізувати», «Швидко ініціалізувати» або «Створити новий віртуальний диск» на дисках, які містять наявні дані. У термінології Dell PERC, Broadcom MegaRAID і HPE Smart Array,
InitializeНЕ означає «увімкнути та підключити диск» (як це іноді означає в застарілих дискових утилітах macOS/Windows). У прошивці апаратного RAID,InitializeзасобиFORMAT AND ZERO OUT THE VIRTUAL DISK METADATA AND PARITY BLOCKS. Навіть 3-секундна «швидка ініціалізація» перезаписує перший і останній мегабайти логічного тому, знищуючи таблицю розділів GPT, VMwareVMFSзаголовок, WindowsNTFSЗавантажувальний сектор Master File Table або LinuxLVM2 / XFSсуперблок. - Вийміть перманентний маркер прямо зараз і напишіть точний номер фізичного слота/відсіку (
Bay 0,Bay 1,Bay 2...) на кожному приводі caddy ПЕРЕД витягуванням одного диска. Тоді як сучасні SNIADDFметадані зберігають теги послідовності дисків на кожному диску, старіші версії прошивки, розділені об’єднавчі панелі або аварійне повторне створення вручну (No-Init Recovery) покладатися на 100 відсотків на повернення кожного диска до свого точного оригіналуEnclosure:Slotномер відсіку. Ніколи не виймайте чотири диски із сервера та не складайте їх на столі без міток. - Ніколи не виймайте справний диск або диск, який «відновлюється», і не вставляйте його повторно, коли сервер увімкнено, щоб «перевірити, чи він повертається». У той момент, коли ви витягуєте живий SAS/SATA caddy з об’єднавчої плати з гарячою заміною більше ніж на 5 секунд, контролер RAID позначає мітку часу цього диска як
Failed / OfflineабоForeign. Якщо один диск уже не працює в масиві RAID 5, і ви випадково витягуєте другий диск, щоб подивитися на його номер, поки сервер працює, ви просто вбили другий диск на очах контролера та вивели з ладу весь том RAID 5. - Зрозумійте критичне правило
ImportпротиClear: під час заміни непрацюючої карти RAID (або після того, як усі диски разом ненадовго перестали працювати в мережі), потрібноIMPORT. Вставляючи використаний запасний диск у справний сервер, ви хочетеCLEAR. - Сценарій А (карта RAID померла, і ви встановили карту на заміну, АБО збій живлення/об’єднавчої плати спричинив вихід з ладу всього масиву
Foreign): Справжня конфігурація живе на дисках (Configuration on Disk). Ви повинні вибратиImport Foreign Configurationтому карта для заміни зчитує макет масиву з дисків у свою NVRAM. - Сценарій Б (ваш сервер працює нормально, 1 диск не працює, і ви перемістили використаний запасний диск, отриманий зі старого вилученого сервера, у відсік 4): Цей використаний замінний диск містить старі метадані RAID із вилученого сервера (
Foreign). Якщо натиснутиImport, ви імпортуєте масив привидів старого вилученого сервера. У сценарії B ви вибираєтеClear Foreign Configurationна цьому єдиному диску для заміни, таким чином він стаєUnconfigured Goodі починає відновлення як гаряче резервування. - Якщо два або більше дисків перестали працювати в режимі RAID 5 (або три в RAID 6), НЕ примусово перемикайте диски в режим онлайн і запустіть «Відновити», перш ніж клонувати кожен диск за допомогою
ddrescue. Коли кілька дисків випадають з масиву через пошкоджені сектори (UREs, невиправні помилки читання), примусове відновлення найстарішого вилученого диска в режимі онлайн створює «застарілу десинхронізацію даних» або «проколоту смугу RAID», яка остаточно пошкоджує бази даних. Вимкніть сервер, підключіть диски до HBA без RAID (IT-Modeкарта SAS), клонуйте кожен диск біт за біт у файли зображень і спочатку реконструюйте масив у програмному забезпеченні лише для читання.
Danger
«Закріплений/брудний кеш» (CacheVault / BBU) Пастка пошкодження даних під час заміни непрацюючої RAID-карти. Корпоративні RAID-контролери використовують від 1 ГБ до 8 ГБ вбудованої пам’яті DDR4/DDR3 кеш-пам’яті із зворотним записом із суперконденсатором (CacheVault) або резервний літій-іонний акумулятор (BBU). Якщо ваш сервер вийшов з ладу під час інтенсивного запису бази даних або VMware через те, що логічний чіп PCIe RAID-карти помер, у знімному флеш-модулі CacheVault або в оперативній пам’яті дочірньої плати може бути кілька гігабайтів незафіксованих метаданих файлової системи (Dirty / Pinned Cache) які ніколи не потрапляли на жорсткі диски. Під час заміни непрацюючої карти Dell PERC або LSI MegaRAID, яка мала активний кеш із зворотним записом, перевірте посібник із обслуговування обладнання, щоб дізнатися, чи модуль флеш-пам’яті CacheVault / дочірня плата NVRAM є знімним і чи його можна перенести на карту для заміни (або очистити збережений кеш перед імпортом), щоб запобігти NTFS / VMFS / ext4 корупція журналу.
Дерево рішень: заміна апаратного RAID-контролера та сортування зовнішньої конфігурації¶
flowchart TD
A["Надзвичайний стан апаратного RAID: карта контролера не працює, АБО BIOS повідомляє «Знайдено чужу конфігурацію»"] --> B{"Чому з’являється сповіщення «Стороння конфігурація»?"}
B -->|"Випадок 1. Замінено непрацюючу RAID-карту (або переміщено всі диски в серверний корпус для заміни)"| C["Усі фізичні диски справні та зберігають метадані реального масиву («Конфігурація на диску»)"]
B -->|"Випадок 2: збій об’єднавчої плати/блока живлення спричинив одночасне переключення кількох дисків на існуючому сервері на «чужий»"| D["Вимкніть сервер -> Повторно встановіть кабелі задньої панелі SAS і дисководи (у слотах з точними номерами) -> Завантажте BIOS контролера"]
B -->|"Випадок 3: ви щойно вставили 1 використаний запасний диск у запущений масив, і на цьому 1 диску написано «Чужий»"| E["НЕ ІМПОРТУЙТЕ: Цей 1 використаний диск містить старі метадані з іншого сервера; виберіть «CLEAR Foreign Config», щоб він став гарячим резервом"]
B -->|"Випадок 4: фізичне клацання кількох дисків/збій із помилками носія (RAID 5 із 2+ несправними дисками)"| F["СТОП: НЕ примусово вмикайте та не перебудовуйте; Підключайте диски до HBA в IT-режимі, клонуйте всі диски за допомогою ddrescue і віртуально реконструюйте"]
C --> G["Увійдіть у BIOS контролера (iDRAC / Ctrl+R / F2 System Setup) -> Відкрийте «Перегляд сторонньої конфігурації / попередній перегляд»"]
D --> G
G --> H{"Перевірте зовнішній екран попереднього перегляду: чи є ВСІ диски-члени віртуального диска та вони «онлайн»?"}
H -->|"Так: усі диски (або N-1 у RAID 5 / N-2 у RAID 6) присутні"| I["Виконайте «ІМПОРТ ЗУНЬОЇ КОНФІГУРАЦІЇ» (НІКОЛИ не натискайте «Очистити» або «Ініціалізувати»). Віртуальний диск миттєво встановлюється неушкодженим"]
H -->|"Ні: надто багато дисків досі показують «Відсутні» у попередньому перегляді"| J["СПИНУВАТИ ІМПОРТ: не імпортувати неповний набір смуг; вимкніть і діагностуйте, який фізичний диск/кабель не розкрутився"]
Довідка від постачальника до постачальника: як Dell PERC, Broadcom/LSI MegaRAID і HPE Smart Array обробляють іноземні метадані¶
Кожен великий постачальник корпоративних серверів використовує дещо іншу термінологію в налаштуваннях UEFI HII, керування поза діапазоном (iDRAC / iLO / XClarity) і інструмент CLI (perccli / storcli / ssacli). Перш ніж натиснути одну клавішу, перегляньте порівняльну таблицю постачальників:
| Особливість / Дія | Dell PowerEdge PERC (H730, H740P, H755, H840, на базі LSI) |
Broadcom / LSI / Avago MegaRAID (9361, 9460, 9560) |
HPE ProLiant Smart Array (P408i, P440ar, E208i, на базі Microchip/Adaptec) |
|---|---|---|---|
| Де на кожному диску знаходяться метадані масиву | СНІА DDF (Формат даних диска), що зберігається в останніх 64 МБ до 512 МБ у самому кінці кожного фізичного диска SAS/SATA/NVMe. |
СНІА DDF (Формат даних диска), що зберігається в останніх секторах у кінці кожного фізичного диска. |
RIS (Reserved Information Sector) метадані, що зберігаються на фізичних дисках (історично в кінці диска на Smart Array P-серія). |
| Чи можете ви замінити мертву картку на трохи новішу модель? | ТАК: Будь-який PERC на основі LSI (H330, H730, H740P, H755) може читати та імпортувати DDF Зовнішня конфігурація іншого PERC на базі LSI (за умови, що нова карта підтримує той самий рівень RAID і кількість дисків). |
ТАК: Форвард-сумісність з усіма MegaRAID SAS 2108 / 2208 / 3108 / 3508 / 3916 Контролери Tri-Mode через стандарт DDF Іноземний імпорт. |
ТАК: Контролери HPE Smart Array автоматично зчитують дані на диску RIS метаданих під час завантаження, у більшості випадків навіть не потребуючи ручного натискання кнопки «Іноземний імпорт» (або підказки Press F1 to keep configuration on drives проти F2 to erase). |
| Точна команда / меню для порятунку масиву | F2 System Setup -> Device Settings -> PERC -> Foreign Configuration Management -> Preview -> Import Foreign Configuration (або через iDRAC Storage -> Controllers -> Import Foreign Config). |
Ctrl+R / UEFI HII -> Foreign View -> Import (або через CLI: storcli /c0/fall show preview потім storcli /c0/fall import). |
У запиті POST: 1789 - Slot X Drive Array Disk Drive(s) Respond... Press F1 to continue with logical drives enabled (НІКОЛИ не натискайте F2 у запиті HPE POST, як F2 приймає втрату даних / очищає конфігурацію). |
| Фатальна кнопка, яка стирає все | Натиснувши Clear Foreign Configuration (видаляє DDF метадані з дисків) АБО Initialize Virtual Disk (обнулити логічний диск). |
Біг storcli /c0/fall del (видаляє зовнішню конфігурацію) АБО storcli /c0/v0 start init. |
Натискання F2 під час POST, коли диск тимчасово відсутній ("1785 - Drive Array Not Configured") або натиснувши Re-create Logical Drive з ініціалізацією. |
Посібник 1: безпечний «Імпорт чужої конфігурації» крок за кроком на Dell PERC & LSI MegaRAID¶
Коли ваш сервер Dell PowerEdge або Supermicro/Lenovo MegaRAID зупиняється під час завантаження з "Foreign configuration(s) found on adapter", дотримуйтесь цього точного 3-етапного хірургічного контрольного списку:
Крок 1. Спочатку перевірте світлодіоди фізичного диска та стан розкручування¶
Перш ніж увійти в меню BIOS, підійдіть до передньої частини серверного корпусу (або відкрийте Dell iDRAC -> Storage -> Physical Disks) і порахуйте світлодіоди відсіку для дисків:
- Чому став масив Foreign в першу чергу?
- Якщо ви щойно замінили мертву плату PERC/MegaRAID (або перемістили всі диски в корпус запасного сервера), Foreign на всіх дисках є 100% нормальним і очікуваним.
- Однак, якщо ви не замінили карту RAID і сервер раптово перезавантажився в "Foreign configuration found", це означає одночасне відключення кількох дисків, зазвичай через незакріплений SAS Mini-SAS HD (SFF-8643 / SFF-8654) кабель об’єднавчої плати, несправна рейка об’єднавчої плати джерела живлення або два застарілі диски одночасно потрапляють у пошкоджені сектори.
- Якщо світлодіодний індикатор відсіку для дисків повністю темний (не крутиться): Вимкніть сервер, від’єднайте блок приводу, зачекайте 30 секунд, надійно встановіть блок і перевірте кабелі живлення/передачі даних об’єднавчої плати SAS, а потім увімкніть живлення, щоб усі фізичні диски були виявлені перед попереднім переглядом імпорту.
Крок 2. Відкрийте екран «Попередній перегляд чужої конфігурації» (ніколи не імпортуйте наосліп)¶
- Завантажте сервер і натисніть
F2(Налаштування системи) на Dell PowerEdge13G / 14G / 15G / 16Gсервери (абоCtrl+Rна старших11G / 12Gсервери BIOS). - Перейдіть до
Device Settings -> [Your Dell PERC / MegaRAID Controller] -> Main Menu -> Configuration Management -> Manage Foreign Configuration -> Preview Foreign Configuration. - Крім того, якщо ви можете завантажити живий рятувальний USB-накопичувач Linux або підключитися через SSH/OS, перевірте попередній перегляд безпечно з командного рядка за допомогою
perccliабоstorcli: - Уважно прочитайте екран попереднього перегляду:
- Подивіться на Віртуальний диск (
VD 0) статус у зовнішньому попередньому перегляді: чи написаноOptimal(усі диски присутні) абоDegraded(наприклад, 5 з 6 дисків присутні в RAID 5 або 6 з 8 дисків присутні в RAID 6)? - Правило: Якщо зовнішній попередній перегляд показує, що віртуальний диск буде імпортовано як
OptimalабоDegraded(Встановлюється), можна безпечно переходити до кроку 3. - Умова зупинки: Якщо в іноземному попередньому перегляді зазначено
Offline/Incompleteоскільки два диски все ще відсутні в RAID 5 (або три в RAID 6), СТОП: ще НЕ натискайте «Імпортувати». Якщо імпортувати забагато дисків, буде імпортовано зламаний масив, який неможливо підключити, або відсутні диски не будуть синхронізовані. Вимкніть сервер і з’ясуйте, чому відсутні фізичні диски не запускаються спочатку на задній платі.
Крок 3: Виконайте Import Foreign Configuration¶
- Після того, як на екрані попереднього перегляду буде підтверджено, що віртуальний диск завершено (або деградація підключена), натисніть
Import Foreign Configurationі підтвердьте підказку (або запустітьperccli /c0/fall import/storcli /c0/fall import). - Протягом 3-5 секунд контролер зчитує
DDFметадані з фізичних дисків, записує карту смуг у NVRAM контролера, передає диски зForeignназад доOnlineі приносить віртуальний дискOptimal(абоDegraded, готовий до негайного резервного копіювання). - Перезавантажте сервер; ваша операційна система (
VMware ESXi,Windows Server,Proxmox / Linux) завантажуватиметься безпосередньо з непошкодженого тому без втрати жодного байта.
Посібник 2: Що робити, якщо хтось ВЖЕ натиснув «Очистити зовнішню конфігурацію» (або стерто метадані NVRAM і DDF)?¶
А якби молодший технік запанікував о 2:00, побачив "Foreign configuration found", натиснув Clear Foreign Configuration (протираючи DDF Метадані RAID знято з дисків, тому кожен диск тепер каже Unconfigured Good), і весь ваш віртуальний диск зник?
НЕ здавайтеся; ваші дані все ще на 100 відсотків недоторкані на пластинах.
Клацання Clear Foreign Configuration стирає лише крихітне DDF сектор конфігурації в самому кінці дисків; він не торкається смуг даних користувача (LBA 0 через кінець вашого розділу).
Однак один неправильний рух під час відновлення зруйнує все. Ось точний професійний протокол відновлення даних після очищення конфігурації апаратного RAID:
Спосіб 1 (Найбезпечніший - 100% нульовий ризик для оригінальних дисків): Віртуальна реконструкція за допомогою HBA лише для читання + R-Studio / UFS Explorer / mdadm¶
Професійні інженери з відновлення даних ніколи не експериментують із «повторним створенням масиву» на живих робочих дисках усередині BIOS контролера RAID, якщо вони не на 100 відсотків впевнені щодо точного порядку дисків, розміру смуги (64 KB, 128 KB, 256 KB), і обертання парності (Left Asymmetric проти Left Symmetric).
1. Вимкніть сервер і вийміть пронумеровані диски.
2. Підключіть накопичувачі до робочої станції, обладнаної адаптером хост-шини SAS без RAID (HBA, наприклад LSI 9207-8i / 9300-8i спалахнув до IT-Mode Прошивка Initiator-Target), тому операційна система бачить кожен необроблений окремий диск безпосередньо без втручання RAID BIOS.
3. Відкрийте UFS Explorer RAID Recovery або R-Studio Technician:
- Обидва інструменти мають вбудовані Dell PERC, LSI MegaRAID і HPE Smart Array Heuristic Stripe-Order Detectors, які сканують необроблені сектори, автоматично визначають точний порядок дисків, 64 KB / 256 KB розмір блоку смуги, обертання паритету та DDF почати зсув у пам’яті лише для читання та дозволити скопіювати всі ваші .vhdx, .vmdk, бази даних SQL і файли безпосередньо з віртуалізованого масиву на резервний NAS без запису жодного байта на оригінальні диски SAS.
Спосіб 2 (Апаратний трюк «Повторне створення віртуального диска БЕЗ ІНІЦІАЛІЗАЦІЇ» , лише коли відомі 100% параметрів)¶
Якщо у вас немає IT-Mode HBA і ви знаєте зі 100-відсотковою впевненістю точну попередню конфігурацію масиву Dell PERC / LSI MegaRAID (з експортованого iDRAC TSR Журнал [Звіт технічної підтримки] або аркуш збірки: точний порядок відсіків для фізичних дисків, рівень RAID, точний розмір елемента Stripe [наприклад, 64 KB на PERC H730 або 256 KB на H740P] та політика читання/запису):
1. В утиліті MegaRAID / PERC BIOS відкрийте Create New Virtual Disk.
2. Виберіть той самий рівень RAID, ті самі фізичні диски у тій же послідовності та той самий розмір смуги (64 KB / 256 KB).
3. НАЛАШТУВАННЯ ЖИТТЯ АБО СМЕРТІ: Під Initialization розкривне меню, переконайтеся, що для нього встановлено значення NO INITIALIZATION (Залишити як No / None; НІКОЛИ не вибирайте Fast Initialize або Full Initialize).
4. Коли ви створюєте віртуальний диск на контролері LSI/PERC за допомогою Initialization = No, контролер пише новенький DDF заголовок метаданих у зарезервовані сектори в кінці дисків, залишаючи 100 відсотків базових блоків даних користувача недоторканими.
5. Завантажте Linux Live USB лише для читання (SystemRescue) спочатку і біжи lsblk -f або fdisk -l: якщо ваш NTFS, VMFS, або XFS розділи негайно з’являються з незмінними мітками файлової системи, геометрія смуг збігається. (Примітка: не запускайте фонову перевірку узгодженості парності, доки не створите резервні копії всіх важливих даних, тому що якщо ви вгадали неправильний розмір смуги або порядок дисків, перевірка узгодженості замінить хороші блоки даних із поганою парністю.)
Playbook 3: Вирішення «збоїв кількох дисків» у RAID 5 / RAID 6 і пастки «проколотої смуги»¶
Що робити, якщо ваш 6-дисковий масив RAID 5 повністю Offline / Dead тому що Диск 2 вийшов з ладу три місяці тому (і ніхто не помітив, тому що сповіщення електронною поштою не було налаштовано), а Диск 4 почав видавати помилки медіа (Bad Blocks / Sense Code 03/11/00) сьогодні вранці?
Warning
Чому ви НІКОЛИ не повинні бігти наосліп Force Online + Rebuild коли два диски випадають з RAID 5 у різний час:
1. Катастрофа «застарілого диска»: Припустімо, що Диск 2 загинув 1 січня, а сервер продовжував працювати в зниженому режимі протягом 90 днів (записуючи мільйони нових транзакцій SQL і змін віртуальної машини на Диски 0, 1, 3, 4 і 5). 1 квітня Диск 4 потрапляє в пошкоджений сектор і перестає працювати, що призводить до збою в роботі масиву. Якщо ви зайдете в BIOS PERC і клацнете "Force Online" на Диску 2 (який не працює з січня) замість Диска 4, або якщо ви спробуєте перебудувати за допомогою 90-денної застарілої парності Диска 2, ви відкотите та пошкодите кожен блок файлової системи, змінений за останні 90 днів, перетворивши ваш том NTFS/VMFS на немонтований швейцарський сир.
2. «Пробита смуга RAID» (Bad Block Propagating During Rebuild) Перехоплення: Коли вцілілий диск у погіршеному RAID 5 стикається з невиправною помилкою читання (URE) під час відновлення контролери Dell PERC і LSI MegaRAID виконують операцію "Punctured Stripe": щоб уникнути повного переривання відновлення, контролер навмисно записує синтетичний "невиправний маркер помилки ECC" (puncture) на абсолютно новий накопичувач для заміни саме на цьому LBA, щоб операційна система знала, що там було втрачено дані. Після того, як RAID-масив пошкоджено, кожне майбутнє відновлення поширює прокол, і запуск chkdsk може каскадно виключати гучність.
Безпечний 4-етапний порятунок для багатодискового масиву RAID:¶
- Експортуйте TTY/журнал подій контролера (
perccli /c0 show termlogабоiDRAC TSR) ПЕРШИЙ: - Перш ніж торкатися будь-якого стану накопичувача, прочитайте внутрішній журнал мікропрограми контролера (
termlog). Подивіться на точні мітки часу, з якого перейшов кожен дискOnlineдоFailedабоForeign. - Ключове правило: Диск, який було вимкнено ОСТАННІМ (останнє, наприклад, 10 хвилин тому сьогодні), має 99,999% актуальних даних і є єдиним диском, який можна безпечно повернути в режим онлайн (або клонувати) для монтування тому. Диск, який помер кілька тижнів або місяців тому (
Stale Drive) має залишатися поза масиву. - Клонуйте «Останній вилучений» несправний диск на справний порожній диск за допомогою
ddrescue(Через HBA в режимі IT): - Тому що диск, який випадав 10 хвилин тому, зазвичай випадав через кілька нечитабельних пошкоджених секторів (
UREs), примусове підключення цього фізично несправного диска до Інтернету всередині карти RAID і спроба запустити 14-годинне відновлення RAID призведе до того, що його головки читання перестануть працювати та повністю вимкнуть через 20 хвилин. - Замість цього підключіть цей несправний диск (і всі інші диски-учасники, що вижили) до не-RAID
IT-ModeSAS HBA та використанняGNU ddrescue(ddrescue -d -r1 /dev/sdX drive4_clone.img drive4.map), щоб створити зображення 99,9999% його читабельних секторів на справному диску або файлі зображення, плавно пропускаючи 3 або 4 пошкоджені сектори без збою головної частини. - Змонтуйте клонований масив у режимі лише для читання та скопіюйте важливі дані перед перебудовою:
- Після того, як несправний диск буде клоновано (або якщо останній відключений диск примусово підключено до Інтернету в BIOS контролера), монтуйте том ОС у режимі лише для читання (
mount -o ro,norecovery) і евакуюйте ваші найважливіші бази даних,.vhdx/.vmdkфайли та облікові спільні ресурси на зовнішній NAS негайно. - Як очистити «пробитий масив» після резервного копіювання даних:
- Як тільки віртуальний диск Dell PERC або LSI MegaRAID отримав проколоту смугу (позначену в журналі контролера за допомогою
Patrol Read can't fix bad blockабоStrip is punctured), жодна заміна дисків або виконання перевірок узгодженості не видалить позначку проколу з віртуального диска. - Після того, як ви створили резервну копію 100 відсотків своїх файлів/VM з пошкодженого масиву: ви повинні Видалити віртуальний диск, Повністю ініціалізувати абсолютно новий віртуальний диск на справних дисках, повторно створити сховище даних/розділ і відновити дані з резервної копії.
Регіональні номери екстрених служб і протоколи агентств¶
| Країна / регіон | Номери екстрених служб і кіберінцидентів | Корпоративний сервер OEM Критично важлива підтримка та стандарти відновлення даних |
|---|---|---|
| Сполучені Штати | 911 (пожежа в серверній кімнаті / електрика / небезпека галону); CISA (1-844-SAY-CISA) для критичної інфраструктури/перебоїв у сховищах лікарень |
Dell ProSupport Mission Critical (США): 1-800-945-3355 (запит PERC / старший інженер з ескалації зберігання; завантажити iDRAC TSR увійдіть, перш ніж торкнутися Foreign Config)HPE Pointnext Mission Critical (США): 1-800-633-3600Підтримка Broadcom / LSI Enterprise: 1-800-867-5016NIST SP 800-88 / SP 800-209 рекомендації щодо безпеки та відновлення корпоративних сховищ. |
| Канада | 911 (Швидка допомога); Канадський центр кібербезпеки (1-833-CYBER-88) |
Dell ProSupport Канада: 1-800-847-4096HPE Enterprise Support Canada: 1-800-633-3600. |
| Великобританія | 999 або 112 (екстрена); NCSC (ncsc.gov.uk) |
Dell ProSupport UK: 0800 587 1456 або +44 844 444 3844HPE Enterprise Support UK: 0800 316 1440 або +44 207 660 4401. |
| Європейський Союз | 112 (Загальноєвропейський номер екстреної допомоги) | ENISA (Агентство Європейського Союзу з кібербезпеки) та ISO/IEC 27031 Рекомендації щодо готовності інформаційно-комунікаційних технологій до безперервності бізнесу (IRBC). |
| Австралія та Нова Зеландія | 000 (AU) / 111 (NZ); ASD ACSC (1300 292 371) |
Dell ProSupport Австралія: 1800 812 393 / Нова Зеландія: 0800 441 567HPE Enterprise Support Australia: 13 11 47. |
Tip
Перш ніж дзвонити в службу підтримки Dell ProSupport, HPE Pointnext або професійну лабораторію відновлення даних RAID, експортуйте комплект діагностики поза діапазоном (iDRAC TSR / HPE iLO AHS):
Навіть якщо ваш сервер відмовляється завантажувати свою операційну систему через віртуальний диск Foreign або Offline, ви можете увійти в порт веб-керування сервера (Dell iDRAC або HPE iLO) з будь-якого ноутбука в мережі:
- На Dell PowerEdge (iDRAC 8 / 9 / 10): Перейти до Maintenance -> SupportAssist -> Start a Collection, перевірте Storage Logs (TTY / TermLog) і натисніть Експортувати локально. що .zip файл містить RAIDControllerLog.txt показує точну мілісекунду, коли кожен диск випав, точний DDF GUID метаданих, точний розмір смуги (64 KB проти 256 KB), а також чи є смуги проколотими.
- На HPE ProLiant (iLO 5 / 6): Перейти до Information -> Active Health System Log і завантажити .ahs пучок.
Часті запитання¶
Яка точна різниця між «Імпортувати зовнішню конфігурацію» та «Очистити зовнішню конфігурацію» в Dell PERC / MegaRAID?¶
Подумайте про `Foreign` RAID-контролер запитує: «Конфігурація RAID, записана на цих жорстких дисках, не відповідає внутрішній пам’яті моєї картки; яка з них правдива?» `Import Foreign Configuration` повідомляє контролеру: "Жорсткі диски містять правду. Скопіюйте конфігурацію RAID З жорстких дисків НА карту контролера та змонтуйте мій том, нічого не стираючи". використання `Import` кожного разу, коли ви замінювали непрацюючу карту RAID, переміщували всі свої диски на новий сервер або мали збій живлення/об’єднавчої плати, який виводив існуючий масив з офлайн. `Clear Foreign Configuration` повідомляє контролеру: "Стріть метадані RAID із цих зовнішніх дисків і перетворіть їх на порожні `Unconfigured Good` дисків». `Clear` ТІЛЬКИ тоді, коли ви вставляєте один використаний запасний диск (витягнутий зі старого вилученого сервера) на справно працюючий сервер і хочете стерти старі метадані цього одного запасного диска, щоб його можна було відновити як гарячий резерв.
Чи можу я витягнути всі свої диски SAS/SATA з непрацюючого Dell PowerEdge R740 (із несправною материнською платою) і підключити їх до запасного Dell PowerEdge R730 або R750, щоб негайно завантажити мій сервер?¶
так Це називається дисковим роумінгом або міграцією масиву та SNIA `DDF` Метадані (Формат даних диска) роблять його надійним у Dell PERC (`H330`, `H730`, `H740P`, `H755`) і контролери Broadcom MegaRAID, якщо ви дотримуєтеся трьох правил: (1) Позначте кожну коробку дисків точним номером відсіку (`Bay 0` через `Bay N`) і вставте їх на сервер заміни в тому самому порядку; (2) Переконайтеся, що вбудоване програмне забезпечення RAID-контролера сервера на заміну має ту саму або новішу основну версію та підтримує використовуваний рівень RAID; і (3) Під час завантаження на сервері заміни увійдіть у PERC BIOS, попередньо перегляньте зовнішню конфігурацію та виберіть `Import Foreign Configuration`.
Чому HPE Smart Array показує «1785 - Slot 0 Drive Array Not Configured» під час POST і чому натискається F2 фатальний?¶
На Hewlett Packard Enterprise (`HPE`) Сервери ProLiant із використанням контролерів Smart Array, якщо кабель живлення об’єднавчої плати SAS ослаблений або полиця накопичувача надто довго розкручується під час завантаження, контролер відображає повідомлення POST, наприклад `1785 - Drive Array Not Configured` або `1789 - Disk Drive(s) Respond` потім такі варіанти, як `Press F1 to continue` або `Press F2 to accept data loss and re-enable logical drive`. Ніколи не натискайте `F2` без уважного читання підказки: у кількох поколіннях прошивки Smart Array, натиснувши `F2` коли диски тимчасово відсутні, повідомляє контролеру погодитися з остаточною втратою відсутнього тому або повторно ініціалізувати метадані логічного диска. Натомість негайно вимкніть живлення, від’єднайте кабель SAS або зовнішній блок живлення, щоб усі диски почали разом, і перезавантажте.
Чи можу я взяти один диск із апаратного масиву RAID 5 або RAID 10, підключити його до док-станції USB-SATA на моєму ПК з Windows і скопіювати файли з нього?¶
Для RAID 5, RAID 6, RAID 0 або RAID 10 (з 4+ дисками): Ні. У смужкових масивах кожен окремий файл перевищує розмір смуги (`64 KB` до `256 KB`) розрізається на крихітні 64-кілобайтові стрічки на всіх дисках одночасно, чергуючись із блоками парності XOR. Підключення одного диска RAID 5 до комп’ютера з ОС Windows призведе до появи нечитабельного розділу, і якщо ви випадково клацнете «Ініціалізувати диск» керування дисками Windows (`MBR/GPT`)" на цьому одному диску, ви перезапишете перші сектори Stripe 0. (Єдиним винятком є дзеркало RAID 1 на 2 диски: у простому дзеркалі RAID 1 на 2 диски кожен диск містить повну лінійну копію тому та може бути встановлений лише для читання на порт SATA/SAS, який не є RAID, хоча ви ніколи не повинні завантажувати його з можливістю запису за межами дзеркала, якщо ви плануєте вставити його назад у карта RAID.)
Моє відновлення RAID 5 застрягло на 47%, а сервер майже не реагує. Мені слід перезавантажити сервер чи скасувати відновлення?¶
По-перше, не вимикайте сервер, якщо світлодіоди активності диска все ще блимають. Коли апаратне відновлення RAID 5 або RAID 6 сповільнюється до повзання (наприклад, падіння зі 150 МБ/с до 0,5 МБ/с при 47 відсотках), це майже завжди означає, що один із уцілілих вихідних дисків потрапив на ділянку слабких/деградуючих магнітних секторів і витрачає 8 секунд на сектор на виконання внутрішнього ERC (`Error Recovery Control`) повторні спроби читання. Поки ви все ще маєте доступ до підключеного тому через мережу (навіть якщо він повільний), негайно скопіюйте найважливіші резервні копії бази даних, фінансові файли та конфігурації віртуальної машини з сервера на окремий NAS або USB-накопичувач прямо зараз, тому що якщо вихідний диск, який має проблеми, повністю відмовиться, не досягнувши 100 відсотків, відновлення буде перервано, і том може перестати працювати.
Пов'язані посібники¶
- Погіршення роботи масиву NAS RAID, збій кількох дисків і відновлення ZFS/Btrfs
- Пошкодження ланцюга знімків віртуальної машини VMDK, VHDX і QCOW2
- Збій жорсткого диска та відновлення даних
- Раптовий режим лише для читання SSD NVMe, 0% резервних блоків і відключення TRIM
Джерела та офіційне керівництво¶
- Асоціація індустрії мереж зберігання даних (SNIA): Загальний формат даних диска RAID (
DDF) Технічна специфікація (Версія 2.0), стандартизація метаданих конфігурації на диску (COD) та імпорт зовнішньої конфігурації через RAID-контролери підприємства. - Інженерна документація Dell Technologies Enterprise: RAID-контролер Dell PowerEdge (
PERC 9 / 10 / 11 / 12) Посібник користувача: Керування зовнішніми конфігураціями, збережений кеш (Pinned Cache), а також усунення пробитих смуг RAID (SLN156890/000139251). - Broadcom Inc. (раніше LSI / Avago): Посібник користувача програмного забезпечення MegaRAID SAS та
StorCLIДовідковий посібник (/cX/fall show previewі/cX/fall importІнші команди конфігурації). - Hewlett Packard Enterprise (HPE): HPE Smart Array SR Gen10 / Gen11 Посібник користувача та посібник з усунення несправностей (зарезервований інформаційний сектор)
RISМетадані та коди помилок POST1785до1799). - Національний інститут стандартів і технологій (NIST): Спеціальна публікація 800-209 (Рекомендації безпеки для інфраструктури зберігання) і SP 800-88 Rev. 1 (Рекомендації щодо санітарної обробки носіїв).